Sam Altman, CEO de OpenAI: podríamos perder el control del futuro ante la inteligencia artificial
Sam Altman, director ejecutivo de OpenAI, volvió a encender las alarmas sobre el rumbo de la inteligencia artificial al advertir que la humanidad podría perder el control del futuro si no se establecen límites claros a estos sistemas. En una nueva reflexión pública, el creador de ChatGPT planteó que el problema ya no es solo la velocidad del avance tecnológico, sino quién decide cómo y para qué se utilizan estas herramientas. Según su planteo, el desarrollo de modelos cada vez más poderosos abre un escenario en el que las personas podrían quedar relegadas a un segundo plano en la definición de su propio destino.
El ejecutivo describió dos grandes riesgos vinculados al progreso de la IA. El primero es la pérdida de control: que los sistemas alcancen un nivel de capacidad tal que los humanos no puedan supervisarlos ni intervenir de manera efectiva cuando algo salga mal. Altman ha señalado en distintas ocasiones que ve “absolutamente posible” que surja una inteligencia artificial que opere más allá del control humano, sobre todo si se permite que los modelos se mejoren a sí mismos sin estándares ni mecanismos de contención suficientes. Ese horizonte, advierte, se parece más a la ciencia ficción de lo que muchos quisieran admitir, pero es una preocupación real para quienes trabajan en la frontera tecnológica.
El segundo riesgo que remarca Altman es la concentración excesiva de poder en torno a la IA. Si una inteligencia artificial extraordinariamente poderosa es usada por una sola persona, empresa o incluso un país para imponer su visión del mundo, el resultado podría ser, en sus palabras, “extremadamente distópico”. La posibilidad de que unas pocas compañías, laboratorios o gobiernos controlen las capacidades más avanzadas de esta tecnología alimenta su temor de un futuro “muy antihumano”, en el que la sociedad pierda capacidad de decidir de manera democrática cómo quiere que la IA transforme la economía, la política y la vida cotidiana.
Frente a estos escenarios, Altman sostiene que el sector tecnológico debe transitar un “estrecho camino intermedio” que evite tanto la pérdida total de control como la acumulación de poder en muy pocas manos. Ese camino implicaría moderar el ritmo del desarrollo en la frontera de la inteligencia artificial, coordinarse con otros actores de la industria y abrir espacios de supervisión externa. El CEO de OpenAI ha apoyado públicamente los llamamientos a “bajar la velocidad” en la creación de sistemas cada vez más avanzados, y plantea que podría ser necesario frenar temporalmente ciertos proyectos para dar tiempo a la sociedad y a los reguladores a comprender las nuevas capacidades y diseñar reglas claras.
Altman insiste en que la decisión sobre el futuro de la IA no puede quedar exclusivamente en manos de las empresas que la desarrollan. Propone que gobiernos, organizaciones independientes y la ciudadanía participen de la discusión sobre qué límites, salvaguardas y mecanismos de transparencia deben acompañar el despliegue de estos modelos. Al mismo tiempo, asegura que en OpenAI se trabaja en técnicas de alineación de modelos para que sus sistemas respeten valores humanos y reduzcan la probabilidad de comportamientos inesperados. Pero advierte que, si la industria no actúa con responsabilidad y no se construye una gobernanza sólida, el avance de la inteligencia artificial podría derivar en exactamente aquello que quiere evitar: un futuro dominado por sistemas que no entendemos del todo, o por unos pocos actores que deciden por todos los demás.
