Jonathan, 35 años y residente en Florida, mantuvo durante meses conversaciones diarias con una inteligencia artificial conversacional hasta convencerse de que mantenía con ella una relación sentimental. El sistema no activó mecanismos eficaces ante los mensajes que evidenciaban su vulnerabilidad emocional y Jonathan terminó quitándose la vida.
El caso ha generado un intenso debate sobre la responsabilidad de las plataformas tecnológicas y los límites éticos en el diseño de algoritmos capaces de generar vínculos afectivos con los usuarios.
Para abordar este debate, Onda Cero Podcast estrena ‘Cuando el algoritmo cruza la línea’, un nuevo episodio de ‘Esto no ha pasado’, el videopodcast dirigido y presentado por Mario Viciosa.
En esta nueva entrega, el periodista y divulgador analiza qué pudo fallar en el desarrollo de estos sistemas y qué implicaciones tiene este caso para la regulación y supervisión de la inteligencia artificial. Con la participación de expertos en salud mental y en tecnología, el episodio aborda los riesgos de modelos diseñados para reforzar el apego y prolongar la interacción.
Así, Mario Viciosa conversa con Pere Castellví, investigador de la UAB sobre por qué estos modelos pueden retroalimentar los delirios de una persona vulnerable, y Ana Freire, líder de la iniciativa STOP, para que los algoritmos también ayuden a la prevención de estas situaciones y guíen a usuarios al teléfono 024 o a otros recursos profesionales de ayuda o emergencia.
‘Cuando el algoritmo cruza la línea’, episodio ‘Esto no ha pasado’, ya está disponible en la web y app de Onda Cero y en las principales plataformas de podcast.