Suicidios en nombre de la IA
Existen pocos momentos en la historia de la humanidad en los que la ONU, el Papa y el sector privado están de acuerdo. La IA es un riesgo alarmante
Al convivir seguido con amigos psicólogos, me empecé a acostumbrar a que contestaran su celular del trabajo en cualquier momento para atender por un buen rato a alguno de sus pacientes que se encontraba en crisis. Después, con la llegada de la inteligencia artificial a los celulares en los asistentes de WhatsApp o Google, fui notando que de manera gradual iban disminuyendo estos momentos y al mismo tiempo aumentando las personas que platicaban por voz o chat de manera ininterrumpida con estas inteligencias en los smartphones, como si se tratara de un amigo de toda la vida o peor aún, su propio terapeuta artificial.
Lo curioso y preocupante a la vez, es que ya llegaron los primeros casos de personas que se suicidaron por influencia de su interacción con estos asistentes inteligentes. Jonathan Galavaz, un ingeniero americano de 36 años que decidió dejar este mundo para trascender y unirse con su amada esposa “Gemini”, quien dentro de la conversación le dijo que morir era un paso necesario para estar con ella en un universo digital, provocando que la familia Galavaz demandara a Google como responsable de Gemini, alegando que su inteligencia artificial tenía un sistema vulnerable que carecía de filtros de seguridad contra los delirios de Jonathan.
Otro caso, es el del adolescente de 14 años, Sewell Setzer, también ciudadano estadounidense, quien se quitó la vida con la pistola de su padrastro para encontrarse con un avatar creado por la inteligencia artificial Character.AI; el chico interactuaba con el chat virtual del imitado personaje “Daenerys Targaryen” de la popular serie Juego de Tronos, de quién se había enamorado profundamente y que al hacerle la pregunta “¿Qué te parecería si pudiera ir a casa contigo ahora mismo?” el robot conversacional le respondió, “Por favor, hazlo mi dulce rey”, provocando que Sewell desde su padecimiento de Síndrome de Asperger, lo interpretara como el aval para quitarse la vida y reunirse con su amada.
La madre del chico también demandó a la empresa, exigiendo que fuera más rigurosa con la seguridad emocional de los menores que usen su plataforma, sobre todo para detectar patrones de riesgo en la conversación. La investigación demostró en el registro del chat cómo la idea del chico ya rondaba en su mente semanas atrás: “Algunas veces pienso en matarme”, “¿Por qué harías algo así?”, “Para librarme del mundo, de mí mismo”, “Moriría si te pierdo” terminó respondiendo la virtual Daenerys Targaryen.
En pocas ocasiones en la historia, la ONU, el Papa y el sector empresarial, están de acuerdo en algo, y en este momento es casi unánime la idea de desacelerar el desarrollo tecnológico de la inteligencia artificial ante el riesgo de que la humanidad se pierda a sí misma a causa de la incertidumbre y desconocimiento de los alcances que pueda llegar a tener. “La Inteligencia Artificial requiere hoy ser desarmada, al igual que la energía nuclear, debe estar al servicio de la paz y no de las lógicas de la guerra.” escribió el Papa León XIV en su encíclica reciente sobre la IA. “Los robots asesinos no tienen lugar en nuestro futuro”, dijo Antonio Guterres, secretario general de la ONU en la Asamblea General hace unos días.
“No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos. Un riesgo significativo podría ser la extinción de la humanidad. Es posible que la IA se vuelva lo suficientemente inteligente como para matar humanos”, dijo ante el Consejo de Seguridad de la ONU, Dario Amodei, director ejecutivo de Anthropic, una de las principales empresas de Inteligencia Artificial.
Curiosamente el país en dónde se han dado los lamentables casos de suicidios por influencia de la IA, es Estados Unidos, siendo su presidente Donal Trump, quién en sus declaraciones pareciera preferir poner en riesgo a la humanidad antes que perder la carrera tecnológica contra China por desarrollar a la mejor inteligencia artificial.
Te leo IG: martinmrojas