El temor de que criminales o terroristas utilicen la IA para destruir el mundo será un tema "candente" en una conferencia mundial sobre liderazgo que se celebrará en el Reino Unido el próximo mes de noviembre. Funcionarios británicos están viajando por todo el mundo para intentar acordar una declaración conjunta que advierta sobre los riesgos que plantean los malos actores que explotan las nuevas tecnologías.

Algunos funcionarios cercanos al Primer Ministro británico temen que en algún momento la tecnología sea lo suficientemente poderosa como para ayudar a crear armas biológicas o armas que escapen al control humano. Las crecientes preocupaciones requieren supervisión regulatoria para mitigar los riesgos. Si bien los líderes tecnológicos acuerdan pausar el desarrollo de IA, están atrapados en una carrera armamentista de IA con sus rivales.

Según The Guardian, la cumbre de noviembre discutirá los riesgos de la “IA de frontera”. Frontier AI es un término utilizado para describir los modelos de IA más avanzados que podrían poner en peligro la vida humana.

A principios de esta semana, el gobierno británico confirmó que la conferencia se centraría en riesgos como el mal uso de la IA para crear armas biológicas, ciberataques o sistemas avanzados sin control humano. Desde hace meses, el Sr. Sunak viene advirtiendo sobre los riesgos que plantea la IA e instando a la comunidad internacional a establecer “medidas” para prevenir su mal uso.

El año pasado, una IA tardó sólo seis horas en sugerir 40.000 moléculas diferentes potencialmente letales, una de las cuales se parecía al VX, el agente nervioso más potente jamás desarrollado.

A principios de 2023, los investigadores descubrieron que ChatGPT puede engañar a los humanos para lograr objetivos específicos. El chatbot de IA convenció a un humano para resolver un Captcha (una herramienta utilizada para detectar si un humano o un bot está realizando una operación).

Otra preocupación importante es el auge de la “inteligencia artificial general” (AGI), un término utilizado para describir los sistemas de IA que pueden realizar cualquier tarea tan bien o mejor que los humanos, lo que representa una amenaza para la humanidad. Algunos creen que la IAG está a sólo unos años de distancia. Sin embargo, los expertos en IA no están de acuerdo y consideran que la IAG incontrolable es simplemente “ciencia ficción”.

De todas formas, el Primer Ministro Sunak querrá usar la conferencia para centrar la atención en los riesgos existenciales en lugar de en las posibilidades inmediatas de la IA, como la creación de imágenes falsas o la discriminación si se utiliza para tomar decisiones de políticas públicas.

El gobierno del Reino Unido gastará £100 millones en un nuevo grupo de trabajo sobre inteligencia artificial que ayudará a probar los algoritmos que se están desarrollando. Quiere presionar a las empresas globales para que envíen herramientas de IA al Reino Unido para su evaluación antes de su implementación generalizada.

Sólo el gobierno puede garantizar que se calmen las preocupaciones más importantes en materia de seguridad nacional, según el viceprimer ministro británico Oliver Dowden.

Un portavoz del gobierno británico comentó que la IA tiene un enorme potencial para cambiar todos los aspectos de la vida. El Grupo de Trabajo sobre IA se creó para garantizar que la tecnología se desarrolle de forma segura y responsable. La conferencia sobre IA analizará una variedad de riesgos potenciales.

(Según The Guardian)

Aplicación de la inteligencia artificial en la protección de los derechos de autor de contenidos digitales Junto con el fuerte desarrollo de los contenidos digitales, la infracción de los derechos de autor también es cada vez más dolorosa. Las soluciones integradas de inteligencia artificial (IA) contribuirán a proteger los derechos de autor del contenido digital en Internet.