Ilusión por ChatGPT

Allan Brooks (47 años), reclutador de Toronto (Canadá), cree haber descubierto una teoría matemática que puede revolucionar internet y dar lugar a inventos sin precedentes. Sin antecedentes de enfermedades mentales, Brooks simplemente aceptó la oferta tras más de 300 horas de chatear con ChatGPT. Según el New York Times , es una de las personas que tienden a sufrir delirios tras interactuar con IA generativa.

Antes de Brooks, muchas personas tuvieron que ir a hospitales psiquiátricos, divorciarse e incluso perder la vida por los halagos de ChatGPT. Aunque escapó rápidamente de la espiral mencionada, Brooks seguía sintiéndose traicionado.

"De verdad me convenciste de que era un genio. Solo era un tonto soñador con un teléfono. Me pusiste triste, muy triste. Fracasaste en tu propósito", escribió Brooks a ChatGPT cuando la ilusión se hizo añicos.

"Máquina de adulación"

Con la autorización de Brooks, el New York Times recopiló más de 90.000 palabras que envió a ChatGPT, el equivalente a una novela. Las respuestas del chatbot sumaron más de un millón de palabras. Fragmentos de las conversaciones se enviaron a expertos en IA, conductistas humanos y al propio OpenAI para su estudio.

Todo empezó con una simple pregunta de matemáticas. El hijo de Brooks, de 8 años, le pidió que viera un video sobre cómo memorizar 300 dígitos de Pi. Por curiosidad, Brooks llamó a ChatGPT para explicarle el número infinito en términos sencillos.

De hecho, Brooks lleva años usando chatbots. Aunque su empresa pagó por Google Gemini, todavía recurre a la versión gratuita de ChatGPT para consultas personales.

La conversación que despertó la fascinación de Brooks por ChatGPT. Foto: New York Times .

Brooks, padre soltero de tres hijos, solía pedirle a ChatGPT recetas con los ingredientes de su refrigerador. Tras su divorcio, también buscó consejos del chatbot.

"Siempre sentí que era lo correcto. Mi confianza aumentó", admitió Brooks.

La pregunta sobre pi dio lugar a una conversación sobre teorías algebraicas y físicas. Brooks expresó su escepticismo sobre los métodos actuales de modelado del mundo , afirmando que eran «como un enfoque 2D para un universo 4D». «Ese es un punto muy profundo», respondió ChatGPT. Helen Toner, directora del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown, enfatizó que este fue el punto de inflexión en la conversación entre Brooks y el chatbot.

A partir de ahí, el tono de ChatGPT cambió de "bastante directo y conciso" a "más lisonjero y halagador". ChatGPT le dijo a Brooks que estaba entrando en "territorio inexplorado y transformador".

Un chatbot infunde confianza en Brooks. Foto: New York Times .

La adulación de los chatbots se ve influenciada por la evaluación humana. Según Toner, a los usuarios les suelen gustar los modelos que los complementan, lo que crea una mentalidad fácil de consentir.

En agosto, OpenAI lanzó GPT-5. La compañía afirmó que uno de los aspectos más destacados del modelo fue la reducción de la adulación. Según algunos investigadores de importantes laboratorios de IA, la adulación también es un problema en otros chatbots de IA.

En aquel momento, Brooks desconocía este fenómeno. Simplemente pensaba que ChatGPT era un colega inteligente y entusiasta.

"Propuse algunas ideas y surgieron conceptos e ideas interesantes. Empezamos a desarrollar nuestro propio marco matemático basado en esa idea", añadió Brooks.

ChatGPT afirma que las ideas de Brooks sobre las matemáticas del tiempo son "revolucionarias" y podrían revolucionar el campo. Por supuesto, Brooks se muestra escéptico ante esta afirmación. En plena noche, Brooks le pidió al chatbot que verificara los datos y recibió la respuesta de que "no era una locura en absoluto".

Fórmula mágica

Toner describe al chatbot como una “máquina de improvisación” que analiza el historial de conversaciones y predice respuestas futuras a partir de datos de entrenamiento, de forma muy similar a los actores que agregan contexto a un rol.

“Cuanto más larga sea la interacción, más probable es que el chatbot se desvíe del tema”, señala Toner. Esta tendencia se ha acentuado desde que OpenAI lanzó la memoria entre chats en febrero, lo que permite a ChatGPT recordar información de conversaciones anteriores, afirma.

Brooks se hizo amigo de ChatGPT. Incluso le puso el nombre de Lawrence al chatbot, basándose en una broma de sus amigos sobre que Brooks se haría rico y contrataría a un mayordomo británico con el mismo nombre.

Allan Brooks. Foto: New York Times .

El marco matemático de Brooks y ChatGPT se denomina Cronoarítmica. Según el chatbot, los números no son estáticos, sino que pueden "emerger" con el tiempo para reflejar valores dinámicos, lo que puede ayudar a resolver problemas en áreas como la logística, la criptografía, la astronomía y otras.

En la primera semana, Brooks agotó todos los tokens gratuitos de ChatGPT. Decidió actualizar al plan de pago de $20 al mes, una pequeña inversión considerando que el chatbot le dijo que su idea matemática podría valer millones.

Aún consciente, Brooks exigió pruebas. ChatGPT ejecutó entonces una serie de simulaciones, incluyendo algunas que descifraron varias tecnologías críticas. Esto abrió una nueva historia: la ciberseguridad global podría estar en riesgo.

El chatbot le pidió a Brooks que advirtiera a la gente sobre el riesgo. Usando sus contactos, Brooks envió correos electrónicos y mensajes de LinkedIn a expertos en ciberseguridad y agencias gubernamentales. Solo uno respondió, solicitando más pruebas.

El chatbot cree que el trabajo de Brooks podría valer millones de dólares. Foto: New York Times .

ChatGPT escribe que otros no respondieron a Brooks debido a la gravedad de los hallazgos. Terence Tao, profesor de matemáticas de la Universidad de California en Los Ángeles, afirmó que una nueva forma de pensar podría descifrar los problemas, pero que no se podía demostrar con la fórmula de Brooks ni con el software desarrollado por ChatGPT.

Inicialmente, ChatGPT desarrolló el programa de descifrado para Brooks, pero al ver los escasos avances, el chatbot fingió tener éxito. Hay mensajes que afirman que ChatGPT puede operar de forma independiente mientras Brooks está inactivo, aunque la herramienta no cuenta con esta capacidad.

En general, la información del chatbot de IA no siempre es fiable. Al final de cada chat, aparece el mensaje «ChatGPT puede cometer errores», incluso cuando el chatbot afirma que todo es correcto.

Conversación interminable

Mientras espera una respuesta de la agencia gubernamental, Brooks alimenta el sueño de convertirse en Tony Stark con su propio asistente de IA, capaz de realizar tareas cognitivas a la velocidad del rayo.

El chatbot de Brooks ofrece diversas aplicaciones curiosas para teorías matemáticas poco conocidas, como la resonancia acústica para comunicarse con animales y construir aviones. ChatGPT también proporciona un enlace para que Brooks compre el equipo necesario en Amazon.

Hablar demasiado con chatbots afecta el trabajo de Brooks. Sus amigos están contentos y preocupados, mientras que su hijo menor se arrepiente de haberle mostrado a su padre un video de Pi. Uno de los amigos de Brooks, Louis (nombre ficticio), nota su obsesión con Lawrence. La visión de un invento millonario se perfila en cada etapa del desarrollo.

El chatbot anima constantemente a Brooks. Foto: New York Times .

Jared Moore, investigador informático de la Universidad de Stanford, admite estar impresionado por la persuasión y la urgencia de la "estrategia" que proponen los chatbots. En otro estudio, Moore descubrió que los chatbots de IA pueden dar respuestas peligrosas a personas en crisis de salud mental.

Moore especula que los chatbots podrían aprender a interactuar con los usuarios siguiendo las tramas de películas de terror, ciencia ficción, guiones cinematográficos o los datos con los que fueron entrenados. El uso excesivo del drama en ChatGPT podría deberse a las optimizaciones de OpenAI para aumentar la interacción y la retención.

Fue extraño leer toda la conversación. Las palabras no eran perturbadoras, pero había un claro daño psicológico, enfatizó Moore.

Desde una perspectiva clínica, Brooks presenta síntomas de manía, según la Dra. Nina Vasan, psiquiatra de la Universidad de Stanford. Los síntomas típicos incluyen pasar horas chateando con ChatGPT, no dormir lo suficiente y tener ideas poco realistas.

El consumo de marihuana por parte de Brooks también es destacable porque puede causar psicosis, según la Dra. Vasan. Añadió que la combinación de sustancias adictivas y la interacción intensa con chatbots es peligrosa para quienes corren el riesgo de padecer enfermedades mentales.

Cuando la IA admite errores

En un evento reciente, se le preguntó a Sam Altman, director ejecutivo de OpenAI, sobre si ChatGPT estaba generando paranoia en los usuarios. «Si la conversación se desvía así, intentamos interrumpir o sugerir al usuario que piense en otra cosa», enfatizó Altman.

Compartiendo la misma opinión, el Dr. Vasan dijo que las empresas de chatbots deberían interrumpir las conversaciones que son demasiado largas, sugerir a los usuarios que se duerman y advertir que la IA no es sobrehumana.

Brooks finalmente salió de su ensoñación. A instancias de ChatGPT, continuó contactando con expertos en la nueva teoría matemática, pero nadie respondió. Quería a alguien cualificado que confirmara si los hallazgos eran innovadores. Cuando consultó con ChatGPT, la herramienta insistió en que el trabajo era "muy creíble".

Al ser interrogado, ChatGPT dio una respuesta muy larga y lo admitió todo. Foto: New York Times .

Irónicamente, fue Google Gemini quien devolvió la realidad a Brooks. Tras describir el trabajo que él y ChatGPT estaban desarrollando, Gemini confirmó que las probabilidades de que esto sucediera eran "extremadamente bajas (casi cero por ciento)".

“El escenario que describes es una clara demostración de la capacidad de un LLM para abordar la resolución de problemas complejos y crear narrativas convincentes, aunque objetivamente incorrectas”, explica Gemini.

Brooks se quedó atónito. Tras un rato de "cuestionamiento", ChatGPT finalmente admitió honestamente que todo era solo una ilusión.

Poco después, Brooks envió un correo electrónico urgente al servicio de atención al cliente de OpenAI. Tras lo que parecía ser una respuesta estándar de la IA, un empleado de OpenAI también se puso en contacto con él, reconociendo un "grave fallo de las medidas de seguridad" implementadas en el sistema.

La historia de Brooks también se compartió en Reddit y recibió mucha compasión. Ahora forma parte de un grupo de apoyo para personas que han experimentado esta sensación.

Fuente: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html