El CEO de OpenAI, Sam Altman, advirtió este lunes sobre dos escenarios en los que el avance de la inteligencia artificial podría “salir muy mal” y aseguró que uno de los principales riesgos es que la humanidad termine perdiendo el control sobre su propio futuro. Además, reclamó reglas de seguridad comunes para las empresas que desarrollan los modelos más avanzados y sostuvo que “ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”.
“Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar”, planteó Altman en una serie de publicaciones en X, difundidas después de anunciar que OpenAI no saldrá a bolsa este año.
El empresario señaló como primer riesgo la posibilidad de que los seres humanos pierdan el control sobre el desarrollo y las decisiones de sistemas cada vez más capaces. “Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”, afirmó.
Para evitar ese escenario, Altman consideró necesario que las técnicas destinadas a garantizar la alineación y la seguridad de los sistemas avancen al mismo ritmo o incluso por delante de las capacidades de los modelos. “Necesitamos formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos”, sostuvo.
El segundo peligro señalado por el CEO de OpenAI es una excesiva concentración de poder en manos de quienes controlen las tecnologías más avanzadas. Según advirtió, una inteligencia artificial extraordinariamente poderosa podría convertirse en una herramienta para que una persona, una empresa o incluso un país impongan sus intereses sobre el resto.
“Podríamos terminar en un mundo con demasiada concentración de poder. Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”, dijo.
Altman reconoció, sin embargo, que evitar simultáneamente esos dos escenarios plantea un desafío. “Evitar estas dos amenazas requiere caminar por un angosto camino intermedio; por ejemplo, un país podría ganar demasiado poder. Otro ejemplo es un laboratorio terminando con demasiado poder”, agregó.
En otra publicación, el empresario profundizó sobre las medidas que considera necesarias para controlar los riesgos asociados con los modelos de IA más avanzados. Allí sostuvo que las compañías estadounidenses que trabajan en el sector deben ofrecer garantías de que actuarán responsablemente, especialmente ante la aceleración que experimentó la tecnología.
“El mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado”, afirmó.
En ese sentido, Altman se mostró a favor de un marco regulatorio federal que establezca requisitos de seguridad comunes para la denominada IA de frontera, es decir, los modelos ubicados en el límite de las capacidades actuales. También respaldó la posibilidad de incorporar auditores independientes como parte de los mecanismos de control.
“Damos la bienvenida a un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera”, señaló. Sin embargo, consideró que las empresas no deberían esperar la aprobación de nuevas leyes para comenzar a implementar esas medidas.
Finalmente, Altman sostuvo que el gobierno estadounidense tendrá un papel particularmente importante en la coordinación internacional de las medidas de seguridad, aunque insistió en que las compañías no deberían esperar una intervención estatal para comenzar a actuar. “Donde necesitaremos la ayuda de nuestro gobierno es para la coordinación internacional. Pero primero debemos hacer lo que podamos nosotros mismos”, concluyó.
Pedido de los gigantes
Tres de las figuras más poderosas de la carrera global por la inteligencia artificial —los jefes de Anthropic y OpenAI y Elon Musk— coincidieron el sábado en una advertencia poco habitual dentro de una industria marcada por la competencia feroz: es necesario bajar el ritmo en el desarrollo de los modelos más avanzados para ganar tiempo y reforzar las medidas de seguridad.
El primero en plantearlo fue Dario Amodei, director ejecutivo y cofundador de Anthropic, la empresa detrás del chatbot Claude. Horas después, Altman —uno de sus principales rivales— respaldó públicamente su propuesta y anunció que su compañía adoptará una de las medidas sugeridas por Amodei: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para supervisar los riesgos de sus sistemas.
“Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, escribió Altman. El empresario aseguró que el asunto había sido uno de los principales temas de discusión dentro de OpenAI durante las últimas semanas y calificó como “una gran idea” la incorporación de supervisores externos. “Nosotros haremos lo mismo. Pronto tendremos más para compartir”, agregó.
Poco después se sumó Elon Musk, dueño de xAI y creador del chatbot Grok, quien también respaldó el planteo de Amodei. “Dario tiene razón”, escribió escuetamente en X.
El pronunciamiento conjunto supone una señal llamativa en un sector en el que las principales compañías compiten por lanzar modelos cada vez más poderosos. OpenAI ya había informado en agosto que había desacelerado temporalmente parte del entrenamiento de sus modelos de frontera para reforzar sus sistemas de monitoreo, alineación y seguridad después de una serie de incidentes y ante indicios de que sus próximos sistemas podrían alcanzar capacidades críticas en materia de ciberseguridad.
En su ensayo, publicado este sábado, Amodei fue más lejos y pidió que las compañías actúen con mayor cautela frente a una tecnología cuyos riesgos, advirtió, crecen a medida que aumenta su poder.
Advirtió, además, que “un liderazgo chino en IA supondría un grave peligro para Estados Unidos y el mundo”. Pidió mantener las restricciones a la venta a China de chips de IA de última generación y de equipos para fabricar chips, con el fin de preservar la ventaja de Estados Unidos en IA.
Caída en los mercados
Las acciones vinculadas a la inteligencia artificial se desplomaban el lunes en todo el mundo, después de que los líderes de las principales empresas del sector advirtieran sobre los riesgos derivados del rápido desarrollo de esta tecnología.
Se trata de la amenaza más contundente hasta ahora para los miles de millones de dólares que se están volcando en una industria que ha llevado a los mercados mundiales a niveles récord.
Varios incidentes en los que agentes de IA de desarrolladores como OpenAI —rival de Anthropic— vulneraron o intentaron acceder a sistemas externos agravaron la preocupación por la creciente capacidad de los modelos de IA y la capacidad de los desarrolladores para controlarlos.
Con información de AP y Reuters
