Un investigador que decidió abandonar Anthropic, una de las principales compañías dedicadas al desarrollo de inteligencia artificial, lanzó una fuerte advertencia sobre el futuro de esta tecnología.
Según su análisis, el próximo año podría marcar un momento clave, cuando los sistemas de inteligencia artificial alcancen capacidades capaces de generar nuevos riesgos para los seres humanos.
La preocupación está relacionada con el rápido avance de los modelos de IA y con la posibilidad de que comiencen a desarrollar capacidades cada vez más autónomas. El escenario que plantea es que el crecimiento tecnológico podría avanzar más rápido que los mecanismos diseñados para garantizar su seguridad.
El investigador también cuestionó la carrera que mantienen las grandes empresas tecnológicas por desarrollar sistemas cada vez más potentes. En ese contexto, advierte que la presión por alcanzar nuevos niveles de capacidad podría aumentar los riesgos si la seguridad no avanza al mismo ritmo.
La posibilidad de una IA capaz de superar ampliamente determinadas capacidades humanas ya genera un intenso debate entre científicos, empresarios y especialistas del sector.
Por ahora, no existe consenso sobre cuándo —o incluso si— podría producirse un escenario de IA fuera de control. Sin embargo, las advertencias de investigadores que trabajan dentro de la industria vuelven a poner una pregunta sobre la mesa:
¿Estamos preparados para controlar una inteligencia que algún día podría superar nuestras propias capacidades?