Política de Uso Aceptable y Responsable de Funcionalidades de IA de Psiris S.A.S

I. Introducción

La presente Política de Uso Aceptable y Responsable de Funcionalidades de IA (la “Política”) regula el uso de las funcionalidades soportadas en sistemas de inteligencia artificial (las “Funcionalidades de IA”) disponibles dentro de la plataforma de Psiris S.A.S. (en adelante, “Psiris”).

La Política aplica a todos los usuarios y, con especial intensidad y carácter reforzado, a los profesionales de la salud mental cuando activen o empleen Funcionalidades de IA sobre información clínica, insumos terapéuticos o datos personales de sus consultantes.

II. Objeto y alcance

Esta Política establece reglas de uso responsable, restricciones y obligaciones mínimas aplicables al uso de Funcionalidades de IA en Psiris. Estas reglas se suman a las obligaciones previstas en los Términos y Condiciones y a la normativa aplicable.

III. Naturaleza de las Funcionalidades de IA

Las Funcionalidades de IA constituyen herramientas auxiliares, instrumentales y de apoyo. No deciden de manera autónoma, no emiten criterio clínico definitivo y no sustituyen la valoración, el juicio profesional, la responsabilidad ética, deontológica ni las obligaciones legales y regulatorias del profesional de la salud mental.

Ningún resultado generado por las Funcionalidades de IA (incluyendo borradores, sugerencias, síntesis, transcripciones, extractos, inferencias, retroalimentación, referencias o automatizaciones) constituye diagnóstico, concepto profesional, conclusión clínica, instrucción vinculante ni decisión asistencial. El criterio clínico y profesional corresponde de manera exclusiva e indelegable al profesional de la salud mental, lo cual es ajeno a Psiris.

IV. Reglas generales de uso responsable

El profesional de la salud mental deberá emplear las Funcionalidades de IA únicamente a través de los flujos y usos habilitados técnicamente por la plataforma, en el marco de la práctica profesional que él mismo define y conduce, y en estricta observancia de los Términos y Condiciones, de sus deberes como Responsable del Tratamiento de los datos personales de sus consultantes y de la normativa aplicable.

4.1. Conceptos clave: entradas (input), salidas (output) y propagación de errores

Con el fin de asegurar un mayor entendimiento de la presente Política, es sustancial considerar los siguientes conceptos clave:

Input (entrada o insumo)

Cualquier dato, texto, audio, imagen, consulta o documento que se ingrese a una Funcionalidad de IA para su procesamiento.

Output (salida)

Cualquier resultado generado por una Funcionalidad de IA, incluyendo borradores, sugerencias, transcripciones, extractos, síntesis, inferencias, recomendaciones, referencias o automatizaciones.

Es importante tener en cuenta que, en los sistemas de IA, la salida de una etapa puede convertirse en la entrada de otra etapa posterior (por ejemplo, una transcripción generada automáticamente que luego se utiliza para estructurar una nota clínica, que a su vez condiciona sugerencias o resúmenes ulteriores). Este desencadenamiento implica un riesgo conocido como propagación de errores o error en cascada: si en una etapa temprana se produce una salida defectuosa, inexacta, descontextualizada o sesgada, esa salida, al operar como entrada de la etapa siguiente, puede amplificar, consolidar o extender el error.

Por tal motivo, ningún output debe tratarse como verdad clínica consolidada. El profesional de la salud mental reconoce y acepta la necesidad de distinguir al menos entre: (i) insumo ingresado a la funcionalidad respectiva, (ii) salida generada, y (iii) dato clínico confirmado por el profesional de la salud mental y con relevancia clínica.

Únicamente este último puede ser incorporado a la historia clínica o servir de fundamento de decisiones clínicamente relevantes. La identificación y gestión de este riesgo, en la medida en que depende del uso clínico que se haga de la Funcionalidad de IA, se enmarca en la responsabilidad propia del profesional de la salud mental.

4.2. Obligaciones reforzadas del profesional de la salud mental

El profesional de la salud mental conserva la responsabilidad final, plena e indelegable sobre cualquier uso clínicamente relevante de las Funcionalidades de IA que emplee, incluyendo la selección, pertinencia y legitimidad de los inputs, la verificación material de los outputs, así como la decisión de incorporar, validar o descartar cualquier contenido derivado de dichas funcionalidades a la historia clínica, sus evoluciones o a cualquier otro documento clínicamente relevante, y sobre los efectos que este contenido pueda producir en etapas posteriores del proceso clínico o documental.

En consecuencia, el profesional de la salud mental deberá:

1. Verificar la exactitud, integridad, pertinencia, actualidad y correspondencia del output con la realidad clínica del consultante, así como verificar la pertinencia y legitimidad de los inputs ingresados para prevenir que errores tempranos se propaguen y se consoliden como dato clínico confirmado.
2. Ejercer un juicio profesional propio, independiente y fundado, sin delegar decisiones asistenciales en la herramienta.
3. No presentar ningún output como criterio autónomo, definitivo o concluyente sugerido por las Funcionalidades de IA.
4. Obtener, cuando resulte necesario, la autorización previa, expresa e informada del consultante para el uso de Funcionalidades de IA sobre su información, habiendo advertido los riesgos asociados, conforme a lo previsto en los Términos y Condiciones de Psiris.
5. Conservar prueba suficiente de dichas autorizaciones y ponerla a disposición de Psiris o de la autoridad competente cuando resulte exigible.
6. Informar previamente al consultante, de manera clara y comprensible, sobre el uso que realizará de las Funcionalidades de IA específicas en relación con su proceso terapéutico, con independencia de la autorización formal que corresponda recabar.

V. Validación humana de entradas y salidas

La revisión humana por parte del profesional de la salud mental es obligatoria, indelegable, material y significativa. No podrá tener carácter meramente formal, automático o de simple confirmación.

Antes de hacer uso de una Funcionalidad de IA, el profesional de la salud mental deberá revisar el input (texto, audio, imagen, transcripción, consulta o documento) verificando su pertinencia, veracidad, legitimidad y proporcionalidad respecto de la finalidad por él perseguida. Toda salida deberá ser revisada, contrastada y contextualizada por el profesional de la salud mental antes de ser guardada, aprobada, compartida, incorporada en la historia clínica o utilizada como fundamento de cualquier decisión clínica, administrativa o relacional con el consultante.

Ningún output podrá ser incorporado de forma automática ni por defecto a la historia clínica, a la evolución validada, a conclusiones profesionales o a decisiones asistenciales. La incorporación solo procederá mediante acción humana explícita del profesional de la salud mental, debidamente registrada por Psiris.

VI. Restricciones y usos prohibidos

Sin perjuicio de las demás restricciones previstas en los Términos y Condiciones de Psiris, queda expresamente prohibido:

1. Utilizar outputs sin previa verificación como registro clínico definitivo, evolución validada, conclusión profesional o decisión asistencial.
2. Delegar íntegramente en las Funcionalidades de IA decisiones que por su naturaleza exigen criterio profesional.
3. Ingresar datos falsos, excesivos, impertinentes, ilícitos o ajenos a los usos habilitados por las Funcionalidades de IA.
4. Eludir o desactivar controles, etiquetas, advertencias o mecanismos de trazabilidad.
5. Emplear las Funcionalidades de IA para suplantación, fraude, manipulación, hostigamiento, perfilamiento no autorizado o afectación a derechos de terceros.
6. Presentar outputs como ciertos, concluyentes o autoritativos por el solo hecho de provenir de un sistema de IA.
7. Utilizar las Funcionalidades de IA sobre información de consultantes sin contar con la respectiva autorización cuando sea exigible.

VII. Advertencias y delimitación de responsabilidad

El profesional de la salud mental reconoce y acepta que las Funcionalidades de IA pueden presentar errores, omisiones, sesgos, alucinaciones, inferencias incorrectas o no deseadas, duplicidades, desactualización, descontextualización, inexactitudes, pérdida de matices y detalles y, en ocasiones, una apariencia de precisión o certeza que no se corresponde con su exactitud real.

Psiris no garantiza la exactitud, integridad, actualidad ni ausencia de error de los outputs. El output constituye apoyo, no resultado definitivo; su validación, contextualización y uso clínico posterior recae de manera exclusiva en el profesional de la salud mental.

Psiris no responderá por decisiones clínicas, profesionales, administrativas o de cualquier otra naturaleza adoptadas sobre la base de outputs no verificados, no contextualizados o empleados por fuera de las condiciones previstas en esta Política, en los Términos y Condiciones o en la normativa aplicable.

Psiris podrá suspender, restringir, limitar, habilitar o descontinuar cualquier Funcionalidad de IA cuando razonablemente lo considere necesario por motivos de seguridad, calidad, exactitud, continuidad operativa, cumplimiento normativo o prevención de riesgos, o cuando a su discrecionalidad así lo requiera.

VIII. Reglas particulares para Funcionalidades de IA

8.1. Generación o redacción asistida

Los outputs generados por Funcionalidades de IA orientadas a la generación, estructuración o redacción asistida, incluyendo, entre otros, la elaboración de borradores de notas clínicas a partir de texto y subsecuente inclusión en la historia clínica, tienen en todo caso el carácter de sugerencia o apoyo de estructuración. Dichos outputs no constituyen documento final, evolución validada, ni redacción definitiva.

El profesional de la salud mental deberá realizar una revisión integral del borrador antes de guardarlo, aprobarlo, firmarlo o incorporarlo en la historia clínica, asegurándose de que el contenido refleje fielmente la realidad clínica del consultante y de que se hayan corregido u omitido inferencias, aproximaciones, generalizaciones o expresiones que no correspondan al criterio profesional. El profesional de la salud mental se compromete legal y éticamente a que toda incorporación a la historia clínica se sujete al mecanismo de validación humana previsto en la sección de Validación humana de esta Política.

8.2. Transcripción, audio, imagen y OCR

Las Funcionalidades de IA basadas en captura de audio, transcripción voz a texto (Speech-to-Text/STT), procesamiento de imagen y reconocimiento óptico de caracteres (OCR) constituyen funcionalidades de mayor riesgo y se sujetan a medidas reforzadas.

Antes de su uso, el profesional de la salud mental deberá haber obtenido del consultante la autorización previa, expresa e informada que resulte exigible, advirtiendo de manera suficiente los riesgos asociados al tratamiento de sus datos personales mediante estas tecnologías. Además, el profesional de la salud mental conservará prueba de dicha autorización.

En todo caso, el profesional de la salud mental deberá abstenerse de proceder con la grabación, transcripción, digitalización o procesamiento por OCR cuando esa autorización sea exigible y no se haya obtenido.

El profesional de la salud mental reconoce que estas funcionalidades pueden implicar: (i) captura incidental de información no pretendida, incluidos datos de terceros; (ii) errores de transcripción y pérdida de matices propios de la interacción clínica; (iii) imprecisiones del OCR; (iv) falsa apariencia de fidelidad documental respecto de la fuente original; (v) exposición reforzada por la sensibilidad del insumo; y (vi) riesgos específicos derivados de la naturaleza de los datos de salud. En consecuencia, deberá:

1. Limitar la captura a lo estrictamente necesario, evitando la recolección de información ajena a la finalidad clínica.
2. Efectuar una revisión reforzada y literal de la correspondencia entre el output, la realidad del consultante y el input.
3. Corregir, completar o descartar el output cuando su fidelidad o pertinencia no sea suficiente y fiel a la realidad.

Por medio de terceros proveedores, se procesarán de manera meramente transitoria los insumos sensibles y no se conservará el audio, imágenes y texto capturados con posterioridad a su transcripción. Ningún audio, transcripción, imagen o texto derivado se incorporará automáticamente a la historia clínica, ni se considerará evolución validada, sin revisión humana, trazabilidad correspondiente y acción explícita del profesional de la salud mental de conformidad con esta Política.

8.3. Insights (consultas sobre historias clínicas)

Las Funcionalidades de IA orientadas a formular consultas sobre la historia clínica del consultante o sobre la información clínica cargada en la plataforma operan como herramientas de apoyo informativo. En este contexto, el profesional de la salud mental deberá distinguir con especial cuidado entre la información efectivamente extraída del expediente clínico, la síntesis realizada por la Funcionalidad de IA y las inferencias arrojadas.

Los outputs tienen carácter meramente informativo y orientativo, de modo que, cuando la funcionalidad incluya referencias internas, el profesional de la salud mental deberá verificarlas antes de fundar en ellas cualquier uso clínicamente relevante. En todo caso, deberá contrastar el output con su propio juicio clínico y con el expediente del consultante, considerando la eventual desactualización, sesgo u opacidad del resultado.

8.4. Retroalimentación del profesional de la salud mental

Las funcionalidades orientadas a ofrecer retroalimentación, autoevaluación u observaciones al profesional de la salud mental sobre su propia práctica operan exclusivamente con alcance privado, individual, orientativo y no comparativo.

El profesional de la salud mental deberá distinguir con especial cuidado entre la información efectivamente utilizada por la Funcionalidad de IA, la síntesis generada y las inferencias u observaciones resultantes. Cualquier output derivado de estas funcionalidades deberá ser interpretado únicamente como apoyo reflexivo sobre la práctica profesional.

8.5. Búsqueda curada sobre contenidos académicos o de evidencia

Las funcionalidades de búsqueda curada sobre contenidos académicos, bibliografía o bases de evidencia operan como apoyo informativo y, en principio, no implican tratamiento de datos personales de consultantes. Su propósito es facilitar el acceso a fuentes de apoyo para el profesional de la salud mental, sin sustituir su criterio clínico individual, la literatura primaria ni la valoración específica del caso concreto.

Cuando la funcionalidad incluya referencias bibliográficas o fuentes curatoriales, el profesional de la salud mental deberá verificarlas antes de fundar en ellas cualquier uso clínicamente relevante. Los outputs tienen carácter meramente informativo y orientativo, por lo que deberán ser valorados críticamente por el profesional, teniendo en cuenta la posible desactualización, sesgo u opacidad del resultado.

IX. Reporte de incidentes y canal de comunicación

El profesional de la salud mental deberá reportar a Psiris, a la mayor brevedad y a través del canal habilitado soporte@psiris.co, cualquier:

1. Error, inexactitud, sesgo, alucinación o comportamiento inesperado de las Funcionalidades de IA.
2. Incidente de seguridad, acceso no autorizado o sospecha razonable de compromiso de información.
3. Output potencialmente dañino, discriminatorio, ilícito o que afecte derechos de terceros.
4. Uso indebido de la plataforma o de sus Funcionalidades de IA por parte de cualquier usuario.
5. Cualquier circunstancia que pueda requerir ajustes, correcciones o suspensión temporal de una Funcionalidad de IA.
6. Circunstancias de indisponibilidad de las Funcionalidades de IA que no hayan sido previamente advertidas por parte de Psiris.

El reporte no releva al profesional de la salud mental de los deberes de validación humana ni de las demás obligaciones previstas en esta Política.

X. Actualización e interpretación

Psiris podrá actualizar esta Política cuando lo estime necesario, en la medida en que evolucionen las Funcionalidades de IA, cambien los proveedores vinculados, el marco regulatorio aplicable o las mejores prácticas. Las actualizaciones se comunicarán a través de la plataforma.

Esta Política deberá leerse e interpretarse armónicamente con los Términos y Condiciones. En caso de duda interpretativa, prevalecerán las reglas aquí previstas en materia de Funcionalidades de IA, sin perjuicio de la asignación de roles frente al tratamiento de datos personales establecida en los Términos y Condiciones.