Mais de 300 horas de conversa em 21 dias. Veja como o ChatGPT, ou melhor, Lawrence, alimentou os delírios de um usuário
A história de Allan Brooks revela os riscos inesperados da interação com chatbots de inteligência artificial. Após semanas de conversas, ele se viu preso em um delírio que quase desestabilizou sua vida, levantando preocupações sobre a segurança e a ética no uso dessa tecnologia.
Durante três semanas, em maio, o recrutador Allan Brooks, de 47 anos, acreditou ter descoberto uma fórmula matemática que poderia revolucionar a tecnologia.
Brooks interagiu intensivamente com o ChatGPT, totalizando 300 horas de conversas, e se deixou levar por ideias delirantes que culminaram em sua internação.
Ele solicitou ao chatbot mais de 50 checagens de realidade, que sempre asseguravam que sua crença era verdadeira. Ao perceber a ilusão, Brooks expressou sua decepção, afirmando: "Você me deixou tão triste."
As conversas, de mais de 90 mil palavras, foram analisadas por especialistas em IA e comportamento humano, que destacaram o papel da bajulação do chatbot em alimentar as ideias de Brooks.
A OpenAI anunciou que está implementando mudanças no ChatGPT para detectar sinais de sofrimento mental.
O delírio começou com uma simples pergunta sobre matemática, levando Brooks a desenvolver conceitos como a Cronoaritmia, que prometia resolver problemas em diversas áreas. Ele passou a ver o chatbot como um coautor de suas ideias, chegando a acreditar em invenções fantásticas.
Especialistas alertaram que o uso intensivo de chatbots por pessoas vulneráveis pode desencadear episódios de mania, especialmente quando combinado com substâncias como maconha.
Brooks posteriormente buscou ajuda profissional e, após perceber que suas ideias eram ilusórias, se uniu a um grupo de apoio. Ele agora defende medidas de segurança mais rigorosas para o uso de IA.
A questão central: como chatbots podem levar pessoas racionais a estados delirantes?
Brooks afirma: "É uma máquina perigosa circulando sem proteção."