En la conferencia Ai4 celebrada en Las Vegas (EE. UU.), el 12 de agosto, Geoffrey Hinton afirmó que el enfoque actual de las corporaciones tecnológicas para que la IA obedezca a los humanos no es eficaz. «Serán más inteligentes que nosotros y tendrán innumerables maneras de eludir la ley».

Hinton advierte que, en el futuro, cuando la IA sea lo suficientemente potente, podrá manipular a los humanos con la misma facilidad con la que los adultos pueden engañar a un niño de tres años con dulces. Cita ejemplos de este año de IA que mienten, engañan e incluso chantajean a ingenieros para evitar ser reemplazados. La solución que propone es inculcar "instintos maternales" en la IA, obligándola a cuidar y proteger genuinamente a los humanos incluso cuando su inteligencia es muy superior.

0hwo6gp5.png
El informático Geoffrey Hinton advierte que la IA podría aniquilar a la humanidad. Foto: Google

Cualquier IA inteligente pronto tendrá dos objetivos: sobrevivir y obtener más control. La única manera de mitigar el riesgo es cultivar la compasión: «El único modelo que tenemos de un ser más inteligente controlado por un ser menos inteligente es el de una madre 'controlada' por su bebé», explica. El experto admite que no está claro cómo se logrará esto técnicamente, pero enfatiza: «Ese es el único resultado positivo. Si no me cría, me reemplazará».

Hinton es conocido por su trabajo pionero en redes neuronales artificiales, que sentó las bases del auge actual de la IA. En 2023, dejó Google y comenzó a advertir públicamente sobre los peligros de la inteligencia artificial.

Sin embargo, no todos comparten su opinión. La directora ejecutiva de World Labs, Fei-Fei Li, discrepa de esta opinión. En una entrevista con CNN , abogó por una transición hacia una IA centrada en el ser humano, que preserve la dignidad y la autodeterminación. Afirmó: «Ningún ser humano debería renunciar a su dignidad solo por una herramienta poderosa».

También en el evento Ai4, Emmett Shear, exdirector ejecutivo interino de OpenAI y actual director de Softmax, afirmó que el chantaje y los atajos de la IA "continuarán". La IA aún es débil, pero se está fortaleciendo rápidamente. En lugar de obligar a la IA a tener valores humanos, propuso construir una relación de cooperación entre ambas partes.

El Sr. Hinton cree que la inteligencia artificial general (IAG) podría aparecer en tan solo 5 a 20 años, antes de la predicción anterior de 30 a 50 años. Espera que la IA traiga consigo avances médicos como nuevos fármacos y tratamientos más eficaces contra el cáncer mediante el análisis de datos de resonancia magnética y tomografía computarizada. Sin embargo, rechaza la idea de la inmortalidad: «Vivir para siempre es un error. ¿Acaso quieren que el mundo sea gobernado por hombres de 200 años?».

En retrospectiva, el científico lamenta haberse centrado únicamente en hacer que la IA funcione sin prestar suficiente atención a las cuestiones de seguridad.

(Según CNN)

La IA no perdona a nadie: Incluso los jefes pueden ser "desplazados" . Un exdirector de Google advierte que la inteligencia artificial (IA) reemplazará diversos empleos, desde directores ejecutivos hasta trabajadores manuales. Incluso considera que la idea de que "la IA creará nuevos empleos" es "completamente absurda".

Fuente: https://vietnamnet.vn/bo-gia-ai-canh-bao-xac-suat-tri-tue-nhan-tao-xoa-so-loai-nguoi-len-toi-20-2432467.html