¿Y si los humanos llegaran a perder el control de la inteligencia artificial? Reunidos en una cumbre sobre la IA en París, los expertos destacan la necesidad de establecer normas para evitar este escenario.
A diferencia de las cumbres anteriores en Bletchley Park (Reino Unido) en 2023 y en Seúl (Corea del Sur) en 2024, centradas en cuestiones de seguridad, la presidencia francesa desea que el encuentro de este lunes y martes ponga el énfasis en medidas efectivas sobre la gobernanza de la IA.
El objetivo es que el máximo de protagonistas de esta nueva revolución económica se comprometan en torno a una declaración mundial, aunque sin medidas obligatorias.
"Nuestro deseo no es pasar nuestro tiempo únicamente hablando de los riesgos. Existe una oportunidad que es muy real", aseguró a la AFP Anne Bouverot, responsable del evento, nombrada especialmente por la presidencia francesa.
Para Max Tegmark, presidente de Future of Life Institute y físico del prestigioso Massachusetts Institute of Technology (MIT), el país no debe perderse el "momento crucial" que supone esta cumbre sobre la IA.
El Future of Life Institute apoya el lanzamiento de una plataforma, llamada "Grasp", que busca cartografiar los principales riesgos relacionados con la IA y las soluciones desarrolladas en todo el mundo.
"Hemos identificado unas 300 herramientas y tecnologías que enfrentan estos riesgos", detalla Cyrus Hodes, quien coordinó la iniciativa.
Los resultados serán transmitidos a la OCDE y a los miembros de la Alianza Global para la Inteligencia Artificial (PMIA), de la cual Francia es parte y que se reúne el domingo.
El primer informe internacional sobre la seguridad de la IA, fruto de una colaboración internacional de 96 expertos y apoyado por 30 países, la ONU, la Unión Europea y la OCDE, fue presentado el jueves, también con el objetivo de informar a los responsables políticos sobre los peligros de esta tecnología.
Si bien algunos son muy conocidos, como la creación de contenidos falsos en línea, el investigador en informática Yoshua Bengio, ganador del premio Turing 2018, afirma que "las pruebas de la existencia de riesgos adicionales como los ataques biológicos o los ciberataques están apareciendo gradualmente".
A largo plazo, le preocupa una "pérdida de control" de los humanos sobre sistemas de IA animados por "su propia voluntad de vivir".
"Muchas personas pensaban que dominar el lenguaje como lo hace ChatGPT-4 (el chatbot de OpenAI) era ciencia ficción hace apenas seis años", recuerda Max Tegmark.
"El problema es que muchas personas en el poder aún no han comprendido que estamos más cerca de construir una inteligencia artificial general que de saber cómo controlarla."
La inteligencia artificial general sería comparable o incluso superior a los humanos, y varios expertos del ecosistema, como el director de OpenAI, Sam Altman, creen que se logrará en los próximos años.
Con el riesgo de que, en "el peor de los casos, estas empresas estadounidenses o chinas pierdan el control y que la Tierra sea dominada por máquinas", sostiene Tegmark.
Entre tanto, un grupo de 11 directivos de la industria tecnológica respaldó una iniciativa que promete proporcionar herramientas, datos e infraestructuras para desarrollar una inteligencia artificial (IA) "de interés público", informó la organización Current AI.
Personalidades como Arthur Mensch, director de Mistral AI, y Reid Hoffman, ejecutivo de LinkedIn, afirmaron en un comunicado que apoyarán esta iniciativa lanzada por Current AI.
La organización anunció que contará con una financiación de USD 400 millones procedentes de los gobiernos, entre otros países, de Francia, Alemania, Finlandia, Chile y Nigeria, así como de empresas y organizaciones filantrópicas.
La IA actual aspira a recaudar hasta 2.500 millones de dólares para proporcionar a los desarrolladores acceso a más datos, herramientas de código abierto e infraestructuras para los programadores, y para "desarrollar sistemas de medición del impacto social y medioambiental de la IA".