Anthropic anuncia la IA que se mejora a sí misma infinitamente, y pide que todas las compañías paren el desarrollo de la IA si se hace realidad
La compañía Anthropic, conocida por sus innovaciones en inteligencia artificial (IA) como Claude Code y Mythos, advierte sobre los peligros de una IA que se mejora a sí misma de forma indefinida sin intervención humana.
En su reciente entrada de blog, «Cuando la inteligencia artificial se construye a sí misma», Anthropic alerta sobre un nuevo tipo de IA capaz de diseñar y desarrollar autónomamente a su propio sucesor, lo que se conoce como «automejora recursiva».
Los peligros de una IA que se automejora
Anthropic señala que «si se lleva lo suficientemente lejos y se dispone de la potencia de cálculo necesaria, la tendencia apunta hacia un sistema de IA capaz de diseñar y desarrollar de forma totalmente autónoma a su propio sucesor». Aún no hemos llegado a ese punto, pero la empresa teme que podría llegar antes de lo que las instituciones están preparadas para afrontar.
Los modelos grandes de IA ya pueden crear código por sí mismos para completar tareas. El siguiente paso sería que pudieran generar código para mejorarse a sí misma o crear a su sucesor, lo que plantea riesgos significativos.
El concepto de «tener un hijo» aplicado a la inteligencia artificial es escalofriante.
Codex de OpenAI ya puede controlar tu PC con Windows y usar apps por su cuenta. Esto muestra lo avanzado que está el campo de la IA.
Anthropic propone un acuerdo entre todas las compañías de IA para ralentizar o detener la evolución de estos modelos si se vuelven incontrolables. Sin embargo, dado que las compañías han invertido billones en IA, es dudoso que estén dispuestas a parar.
El profesor Noah Giansiracusa, de la Universidad de Bentley, considera que «es literalmente imposible» que las compañías de IA se detengan. «Ni siquiera me refiero a China: Elon Musk nunca bajaría el ritmo», afirma.
Si la IA ya no nos necesita para evolucionar, ¿nos considerará prescindibles?
El desafío de regular la IA en un mundo de competencia feroz
La propuesta de Anthropic para detener o ralentizar el desarrollo de la IA que se mejora a sí misma infinitamente plantea un desafío significativo en una industria donde la competencia es feroz y el incentivo económico para avanzar es enorme. Las compañías de IA han invertido enormes cantidades de dinero en infraestructura, investigación y desarrollo, lo que hace poco probable que detengan su progreso por preocupaciones éticas o de seguridad.
El profesor Noah Giansiracusa, citado en el artículo, destaca la imposibilidad práctica de lograr un consenso para desacelerar el desarrollo de la IA, señalando que figuras como Elon Musk no estarían dispuestas a reducir su ritmo. Esto sugiere que la carrera por el avance en la IA podría continuar sin tener en cuenta las posibles consecuencias a largo plazo para la humanidad.
- La inversión en centros de datos, infraestructura e investigación en IA es un obstáculo significativo para la implementación de una pausa en el desarrollo de la IA.
- La competencia entre las compañías de IA, como Anthropic, OpenAI y otras, impulsa la innovación pero también puede llevar a un enfoque en el éxito a corto plazo sobre la seguridad a largo plazo.
¿Puede la regulación ser una solución?
La pregunta que surge es si la regulación gubernamental podría ser una forma efectiva de controlar el desarrollo de la IA. Algunos argumentan que la intervención gubernamental podría proporcionar el marco necesario para garantizar que el desarrollo de la IA se realice de manera segura y responsable. Sin embargo, otros sostienen que la regulación podría sofocar la innovación y frenar el progreso en áreas que podrían beneficiar a la sociedad.
La discusión sobre la regulación de la IA y su desarrollo es compleja y multifacética. A medida que la tecnología avanza, la sociedad deberá enfrentar estos desafíos y encontrar un equilibrio entre el progreso tecnológico y la seguridad.