Crear tecnología, por humanos, junto con humanos, y con el objetivo final de su utilidad, no es nada nuevo. Mejorar las capacidades humanas con la ayuda de la tecnología y, al mismo tiempo, garantizar niveles adecuados de automatización, supervisión y toma de decisiones, son temas que se han estudiado desde hace tiempo. La IA en estos momentos está avanzando a una velocidad asombrosa, por lo que es imprescindible tener un marco conceptual que nos permita entender, definir, planear e implementar y supervisar sistemas inteligentes centrados en el ser humano.
¿Pero que es la inteligencia artificial centrada en el ser humano (IACH)? Los investigadores Stefan Schmager, Ilias O. Pappas & Polyxeni Vassilakopoulou del Departamento de Sistemas de Información, Universidad de Agder, Kristiansand, Noruega proponen la siguiente definición:
La IA Centrada en el Ser Humano (IACH ) se centra en comprender los propósitos, los valores humanos y las propiedades deseadas de la IA en la creación de sistemas de IA mediante la aplicación de prácticas de Diseño Centrado en el Ser Humano. La IACH busca aumentar las capacidades humanas, manteniendo el control humano sobre los sistemas de IA, considerando la necesidad, el contexto y las condiciones éticas y legales del sistema, además de promover el bienestar individual y social.
Evidentemente hay una gran responsabilidad a la hora de desarrollar sistemas inteligentes ya sea en el entorno empresarial, social, político o cultural, por lo que además de las bases tecnológicas y operativas se requiere un enfoque axiológico que alinee el sistema con los valores humanos. El modelo propuesto es el siguiente:
Propósito
- Potenciación: El objetivo principal del aumento reside en la idea de utilizar la tecnología de IA para mejorar las capacidades humanas, en lugar de reemplazarlas o disminuirlas.
- Autonomía: Se busca la capacidad de un sistema de IA para tomar decisiones y realizar acciones sin intervención ni control humano directo.
- Automatización: La automatización se refiere a la externalización de tareas repetitivas, rutinarias o que consumen mucho tiempo, que los sistemas de IA pueden realizar de forma más eficiente.
Valores
- Éticos: la ética debe ser pragmática y el especialista en ética debe considerarse un diseñador en el proceso de desarrollo tecnológico, que suscribe una visión pragmática de la ética para incorporar la ética a la investigación y el diseño de artefactos.
- Protección: Valores de protección como la Privacidad, la Seguridad y la Prevención de Daños se refieren al respeto de los derechos humanos fundamentales, la protección de la salud física y mental, así como a la protección del medio ambiente
- Desempeño: Una de las fortalezas más evidentes y destacadas de la tecnología de IA es la mejora del rendimiento, ya sea mediante el aumento de las capacidades humanas, la acción autónoma o la automatización.
Propiedades dela IA
- Supervisión: En el contexto de las IACH, se relacionan con la monitorización, la revisión y la regulación de los sistemas de IACH y su impacto. Mediante la supervisión, el diseño y el desarrollo de sistemas de IACH, pueden fomentar la confianza y un impacto beneficioso.
- Comprensión: Estas propiedades comparten el objetivo de apoyar y mejorar la comprensión, la toma de decisiones y el control humanos sobre los sistemas de IA.
- Integridad: Estas propiedades garantizan que los sistemas de IACH funcionen de forma consistente, fiable y confiable. Abordan la solidez técnica y estructural, así como el desarrollo de la confiabilidad al proporcionar funciones de auditabilidad para revisar la alineación y el cumplimiento con los objetivos humanos y sociales.
Comprensión
Comprender las propiedades de la IA y alinearlas con el propósito que requiere es fundamental. La comprensión nos permite saber lo que es posible y los límites que se tienen, ya sean técnicos o presupuestarios.
Diseño y Desarrollo
En la parte de diseño y desarrollo el objetivo es alinear los propósitos con los valores. El objetivo de esta parte se basa en la responsabilidad, el desempeño y la efectividad.
Evaluación
¿Es posible que la IA actúe con los valores deseados según sus propiedades? La evaluación permite detectar desviaciones, errores, alucinaciones o conductas inapropiadas de los sistemas de IA.
Participación del Usuario
Dado que la IA es un artefacto desarrollado por los humanos, para los humanos es importantísimo tomar en cuenta los procesos, métodos y herramientas del Diseño Centrado en el Ser Humano.
Proceso iterativo
La Inteligencia Artificial Centrada en el Humano (IACH) es un proceso iterativo. Cada ciclo permite detectar fallas y mejorarlas. Es un proceso continuo que permite mejorar su aplicación, ya sea en la cultura, la empresa, el mercado, la medicina, la política o la guerra.
Referencias
- Understanding Human-Centred AI: a review of its defining elements and a research agenda. (2024). Behaviour & Information Technology. [online] https://www.tandfonline.com/doi/full/10.1080/0144929X.2024.2448719..
