Uso responsable de inteligencia artificial

• Lo determinista primero: las cifras, los cobros, los plazos y los estados de la operación se calculan con reglas verificables sobre los datos del cliente. Un modelo puede explicar o redactar; no inventa ni corrige un número.
• La persona decide: un resultado de un modelo es un insumo. Toda acción con efecto sobre datos, dinero o personas exige confirmación de un usuario con permisos, y queda registrada con su autoría.
• Datos mínimos: a un proveedor externo solo viaja lo indispensable para la tarea, con patentes y nombres reemplazados por marcadores cuando la tarea lo permite.
• Sin entrenamiento con datos de clientes: ni nosotros ni nuestros proveedores usamos los datos de un cliente para entrenar modelos, salvo acuerdo escrito, específico y revocable.
• Estado declarado: decimos qué está en producción, qué está en laboratorio y qué es solo plan. Un uso que no existe no se describe como disponible.

Cuando una empresa activa la capa de lenguaje de Michiva, las consultas se envían por API a través de OpenRouter, Inc. (Estados Unidos), que las dirige al proveedor del modelo elegido. Los proveedores previstos son OpenAI y Anthropic, y el registro de subencargados indica cuál está en uso. Usamos las condiciones comerciales de API de cada proveedor, no las de sus aplicaciones de consumo.

• Sin entrenamiento: cada llamada exige que el proveedor no use los datos para entrenar ni mejorar sus modelos.
• Retención cero: por defecto exigimos proveedores que no conservan la solicitud ni la respuesta. Si una empresa acepta un modelo sin esa garantía, el proveedor puede guardar registros para control de abuso hasta 30 días, y así se informa antes de activarlo.
• Transferencia internacional: el envío a estos proveedores es una transferencia fuera de Chile y de la Unión Europea, descrita en la política de transferencias internacionales.

Si en el futuro permitimos que un cliente use su propia clave de API de Anthropic o de OpenAI, ese uso se regirá además por las condiciones de API que el cliente tenga con ese proveedor. La conexión será solo por clave de API, sin iniciar sesión con una cuenta de Claude o de ChatGPT. Hoy esa opción no existe.

• Revisión humana: ningún resultado de un modelo se convierte por sí solo en una medida sobre una persona, un cobro o un documento tributario.
• Validación de lo redactado: un texto redactado por un modelo se contrasta con los datos antes de mostrarse; si no coincide, se usa una plantilla fija.
• Sin memoria de conversaciones: Drometra no guarda la pregunta ni la respuesta de Michiva. Registra quién consultó, con qué finalidad, qué modelo respondió, el resultado, los tokens y el costo, y borra ese registro a los 90 días.
• Límites de uso: 200 consultas al modelo por empresa al día y 10 por persona por minuto, para contener costos y abusos.
• Trazabilidad: cada llamada queda asociada a la versión del modelo usada, para revisar un resultado después.
• Aviso y exclusión: antes de activar la capa de lenguaje para una empresa se lo informamos, y su administrador puede pedir que no se use o que se desactive en cualquier momento; las preguntas fijas siguen funcionando sin ella.

Michiva y cualquier otro asistente de Drometra explican datos de la operación. No recomiendan inversiones, créditos, precios ni estrategias tributarias, no interpretan la ley para un caso concreto y no toman decisiones financieras por el cliente. Una respuesta que parezca un consejo de ese tipo debe tratarse como un error y reportarse.

Tampoco evalúan la salud, la fatiga ni la aptitud de una persona, ni dan indicaciones médicas, aunque muestren eventos de conducción o alertas de Vision. Ante una emergencia en ruta corresponde llamar al 131, al 132 o al 133.

• Un modelo de lenguaje puede malinterpretar una pregunta o redactar algo incorrecto con aparente seguridad. Por eso limitamos su papel a elegir entre preguntas fijas y a redactar sobre hechos ya calculados.
• El detector de Vision rinde peor con poca luz, contraluz, lluvia intensa y lente sucio o desalineado, y solo se ha probado en un modelo de teléfono.
• Una detección no prueba que algo ocurrió, y la ausencia de detección no prueba que no ocurrió.
• La biblioteca MediaPipe que usa Vision puede enviar a Google métricas técnicas de rendimiento y uso cuando el teléfono tiene conexión. No envía video ni imágenes.
• La optimización de rutas trabaja con tiempos estimados sobre datos viales que pueden estar desactualizados, sobre todo fuera de zonas urbanas.

• Reconocimiento facial de terceros captados en la vía pública o de clientes de una tienda.
• Inferencia de emociones, estado de ánimo o rasgos de personalidad a partir del rostro o de la voz.
• Seguimiento de una persona de un día a otro en Drometra Spaces.
• Puntuación general de personas fuera del ámbito de la conducción segura.
• Sanción totalmente automatizada, sin intervención humana ni derecho a descargo.
• Identificación de participación en actividades sindicales o de representación.

Esta lista es un compromiso público. Si cambia, quedará constancia de qué cambió y por qué.