Se estima que un 10% es el riesgo de que la IA acabe con la humanidad
Por Daniela Garcia Romero.
- Un investigador de Anthropic calcula que existe más de 10% de probabilidad de que una futura superinteligencia artificial provoque la extinción humana durante la próxima década, mientras especialistas y desarrolladores cuestionan la velocidad con la que avanza esta tecnología.
Evan Hubinger, responsable de ciencia de alineación en Anthropic, advirtió que una inteligencia artificial capaz de mejorar sus propias capacidades podría representar un riesgo catastrófico para la humanidad. Su estimación se dio después de la renuncia de Jacob Coxon, investigador de Anthropic y exintegrante de OpenAI, quien cuestionó la falta de medidas de seguridad suficientes en el desarrollo de sistemas cada vez más avanzados.
La preocupación se centra en el posible desarrollo de una superinteligencia artificial con capacidades superiores a las humanas en múltiples áreas y con un alto grado de autonomía. Sin embargo, actualmente no existe ningún sistema que cumpla con esas características y tampoco hay consenso entre los científicos sobre la probabilidad de que llegue a desarrollarse o sobre sus posibles consecuencias.
Los especialistas señalan que el principal riesgo no necesariamente está en la inteligencia artificial actual, sino en avanzar hacia sistemas cada vez más autónomos sin contar con mecanismos de seguridad y regulación suficientes. Ante este escenario, investigadores y algunos legisladores han planteado ralentizar el desarrollo de tecnologías avanzadas hasta establecer medidas que permitan reducir los riesgos asociados con una futura superinteligencia.
