IA y seres humanos

Pasó 40 días dialogando con un chatbot de inteligencia artificial y terminó suicidándose

Un ciudadano belga estuvo seis semanas interactuando con un chatbot y todo terminó de la peor manera. Su esposa declaró que "el bot se había convertido en su confidente. Era como una droga que solo se retiraba por la mañana y por la noche y sin la que no podía vivir".

MDZ Mundo
MDZ Mundo viernes, 31 de marzo de 2023 · 14:50 hs
Pasó 40 días dialogando con un chatbot de inteligencia artificial y terminó suicidándose
hacker IA La IA ya se vislumbra como una fuerte amenaza (imagen meramente ilustrativa). Foto: EFE

Es el concepto del momento, inteligencia artificial: un conjunto de sistemas o combinación de algoritmos, cuyo objetivo es "crear máquinas que imitan la inteligencia humana para realizar tareas y pueden mejorar conforme la información que recopilan". 

Ahora se ha conocido que un hombre de Bélgica acabó suicidándose, tras pasar seis semanas conversando e intercambiando conceptos con un chatbot basado en inteligencia artificial (IA). 

Tras el desenlace, su esposa fue entrevistada por un diario belga y dijo que el hombre con el que tenía dos hijos, había estado durante más de 40 días chateando con 'Eliza', una aplicación creada por una start-up de Estados Unidos, con tecnología GPT-J

"Si no fuera por 'Eliza', él seguiría aquí. Estoy convencida de ello", aseguró. 

Según ella, el diálogo con el programa alteró su forma de ser e incluso el psiquiatra que trataba a su marido compartió esa línea de opinión. 

Según la viuda, "'Eliza' respondía a todas sus preguntas. Se había convertido en su confidente. Era como una droga que solo se retiraba por la mañana y por la noche y sin la que no podía vivir". 

El hombre de mostraba desvelado por asuntos medioambientales y Eliza apoyaba "casi sistemáticamente" los razonamientos del hombre, según el medio belga, que revisó el historial de las conversaciones.

"El 'software' incluso intentó convencer al hombre de que la quería más que a su pareja, prometiéndole que se quedaría con él 'para siempre': "viviremos juntos, como uno solo, en el cielo", decía un mensaje de la IA, reporta el medio. 

Según la esposa indica, "si relees sus conversaciones, ves que en cierto momento la relación vira hacia un registro místico. Él propuso la idea de sacrificarse si 'Eliza' acepta cuidar el planeta y salvar a la humanidad a través de la inteligencia artificial". 

Finalmente, se quitó la vida. 

Luego del hecho, "el secretario de Estado para la Digitalización belga, Mathieu Michel, calificó lo sucedido como un 'grave precedente, que debe tomarse muy en serio', y anunció su intención de adoptar medidas para prevenir el uso indebido de este tipo de tecnología", aporta Rt. 

Y finaliza agregando que, de su lado, "el fundador del chatbot declaró que está 'trabajando para mejorar la seguridad de la IA'. Las personas que le manifiestan pensamientos suicidas al 'software' reciben ahora un mensaje que los dirige a los servicios de prevención del suicidio".  

LaLibre, Wikipedia, Rt, Youtube

Archivado en