IA responsable, revisar antes de confiar en algoritmos
Un marco práctico para pasar de los principios éticos a las decisiones concretas sobre la IA
La Inteligencia Artificial ya no es una tecnología reservada a laboratorios y grandes empresas. Hoy ayuda a redactar informes, seleccionar candidatos, analizar imágenes médicas, evaluar riesgos, enseñar, programar y tomar decisiones. Precisamente por eso, la pregunta ha cambiado. Ya no basta preguntar qué puede hacer la IA; necesitamos preguntarnos qué debemos permitirle hacer, bajo qué condiciones y quién responderá cuando algo salga mal.
La discusión ética necesita, por tanto, abandonar el terreno exclusivo de las declaraciones de principios y convertirse en una práctica cotidiana.
Organismos como UNESCO, NIST y OCDE han desarrollado marcos para conseguirlo. La UNESCO adoptó en 2021 su Recomendación sobre la ética de la inteligencia artificial, concebida como un marco global que toma como referencia la dignidad humana, el bienestar y la prevención de daños (UNESCO, 2021).
Pero ¿cómo traducir esos grandes principios a una decisión concreta en una empresa, universidad, gobierno, escuela u organización social?
Primero la persona, después el algoritmo
El punto de partida parece elemental: la tecnología debe estar al servicio de las personas y no las personas al servicio de la tecnología.
La UNESCO define la ética de la IA como una reflexión capaz de orientar a las sociedades frente a los efectos conocidos y desconocidos de estas tecnologías, tomando como referencias centrales «la dignidad humana, el bienestar y la prevención de daños» (UNESCO, 2021, párr. 1).
Esto cambia la manera de evaluar un proyecto. Una IA no debería aprobarse únicamente porque reduce costos, aumenta productividad o acelera procesos. También debemos preguntarnos qué consecuencias tendrá sobre las personas, quiénes obtendrán sus beneficios, quiénes asumirán sus riesgos y si existe alguna alternativa menos invasiva.
En otras palabras: que algo pueda automatizarse no significa que necesariamente deba automatizarse.
No todas las IA representan el mismo riesgo
Pedir a un sistema que organice nuestras notas no equivale a utilizarlo para decidir quién obtiene un empleo, un crédito o un tratamiento médico. La gestión responsable comienza clasificando el riesgo.
El Artificial Intelligence Risk Management Framework (AI RMF 1.0) del NIST fue diseñado precisamente para ayudar a las organizaciones a gestionar los riesgos de los sistemas de IA para individuos, organizaciones y sociedad. El marco es voluntario y busca promover sistemas confiables y responsables (Tabassi, 2023).
Podemos traducir este principio a una regla sencilla: cuanto mayor sea la consecuencia de una decisión automatizada, mayor debe ser la supervisión humana. No necesitamos el mismo procedimiento para corregir la redacción de un correo que para analizar un expediente médico.
El ser humano debe conservar el control
Aquí aparece uno de los principios fundamentales de la IA responsable: siempre debe existir una persona responsable de las decisiones importantes. No es suficiente responder: «lo decidió el algoritmo».
Los sistemas pueden recomendar, predecir y clasificar, pero las organizaciones y las personas que los utilizan deben conservar la capacidad de revisar sus resultados, cuestionarlos y, cuando sea necesario, rechazarlos.
La UNESCO coloca expresamente la supervisión humana entre los principios centrales de su marco ético, junto con transparencia, equidad y respeto a los derechos humanos (UNESCO, 2021). La responsabilidad humana no desaparece cuando interviene una máquina. Al contrario: cuanto más poderosa sea la herramienta, más claramente debemos identificar quién responde por su utilización.
Verificar antes de confiar
La IA generativa presenta además un problema particularmente engañoso: puede equivocarse con enorme elocuencia. Una respuesta puede estar perfectamente redactada y contener fechas inexistentes, datos equivocados o referencias bibliográficas inventadas. Por eso necesitamos distinguir entre generar información y verificar información.
La regla debería ser proporcional al riesgo: cuanto mayores sean las consecuencias de un error, mayor debe ser la exigencia de comprobación. Una recomendación médica, una interpretación jurídica, una investigación académica o una decisión financiera requieren contrastar fuentes originales. Una respuesta de IA, por convincente que parezca, no constituye por sí misma una fuente.
Los datos también son personas
Existe otra tentación: considerar los datos como simple combustible para alimentar algoritmos. Pero detrás de una historia clínica, un expediente laboral o una base de datos educativa existen personas.
La Recomendación de UNESCO aborda expresamente la privacidad, la protección de datos, la transparencia, la responsabilidad y la no discriminación dentro del ciclo de vida de los sistemas de IA (UNESCO, 2021).
La consecuencia práctica es inmediata: no deberíamos proporcionar indiscriminadamente información confidencial a una plataforma de IA. La mejor regla es la minimización: utilizar solamente los datos necesarios para la finalidad legítima que pretendemos alcanzar.
De los principios a ocho preguntas
¿Cómo llevar todo esto a nuestra vida cotidiana? Propongo el Marco DIGNIDAD, una herramienta práctica —no un estándar oficial de UNESCO, NIST u OCDE— que sintetiza principios consolidados de ética y gestión responsable de IA.
Antes de utilizar una IA en una tarea relevante, podemos formular ocho preguntas:
D Dignidad: ¿respeta el valor y los derechos de las personas?
I Intención: ¿para qué queremos utilizarla y realmente la necesitamos?
G Gobernanza: ¿quién autoriza, supervisa y responde por su utilización?
N No discriminación: ¿puede producir sesgos o perjudicar injustamente a determinadas personas?
I Información: ¿los datos utilizados son necesarios, legítimos y están adecuadamente protegidos?
D Decisión humana: ¿una persona conserva la última palabra cuando existen consecuencias importantes?
A Auditabilidad: ¿podemos reconstruir qué hizo la IA, verificar sus resultados y explicar cómo llegamos a la decisión?
D Desarrollo humano: ¿su utilización mejora realmente la vida de las personas y contribuye al bien común?
La propuesta resulta compatible con el enfoque operativo del NIST. Su AI RMF organiza la gestión del riesgo alrededor de cuatro grandes funciones: Govern, Map, Measure y Manage —gobernar, mapear, medir y gestionar—, y establece que la gestión debe mantenerse durante todo el ciclo de vida del sistema (Tabassi, 2023).
La IA responsable empieza con nosotros
Existe una paradoja en esta revolución tecnológica: cuanto más autónomas parecen nuestras máquinas, más importante se vuelve nuestra responsabilidad.
Una organización no debería medir el éxito de la IA solamente por las horas ahorradas, los costos reducidos o las tareas automatizadas. También debería preguntarse cuántos errores evitó, cómo protegió la privacidad, si redujo o amplificó desigualdades, si sus decisiones pueden explicarse y si las personas siguen conservando un control significativo.
La UNESCO advierte que la IA puede producir consecuencias positivas y negativas profundas sobre las sociedades, el ambiente y la propia toma de decisiones humanas (UNESCO, 2021). El NIST, por su parte, concibe la gestión del riesgo como una forma tanto de reducir daños como de aprovechar responsablemente los beneficios de estas tecnologías (Tabassi, 2023). Ahí está el verdadero reto.
La pregunta decisiva del futuro no será simplemente qué tan inteligente llegó a ser la Inteligencia Artificial, sino qué tan responsables fuimos nosotros al utilizarla.
Y una regla puede servirnos como brújula: A mayor poder delegado a la IA, mayor debe ser la responsabilidad humana que permanece detrás de ella.
Te invitamos a ver el video sobre el tema:
Referencias
Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. Marco de Gestión de Riesgos de Inteligencia Artificial (IA RMF 1.0) | NIST
UNESCO. (2021, 23 de noviembre). Recomendación sobre la ética de la inteligencia artificial. UNESCO. Recomendación sobre la Ética de la Inteligencia Artificial – Legal Affairs