Jack Clark, cofundador de la empresa de inteligencia artificial Anthropic, afirmó que podría volverse obligatorio que las compañías de IA cuenten con un «interruptor de emergencia» verificable por un tercero, capaz de desactivar el software si se vuelve peligroso.
Según explicó, la mayoría de los laboratorios ya cuentan con mecanismos propios de desconexión, pero consideró que los responsables políticos podrían exigir formalmente esa capacidad como parte del debate regulatorio en curso.
La declaración se da luego de que el director de Anthropic, Dario Amodei, pidiera ralentizar el desarrollo de la IA, y de que un investigador que renunció a la empresa estimara en 10% la probabilidad de que la tecnología cause la extinción humana en la próxima década, cifra que el científico Geoffrey Hinton calificó como «no descabellada».
En Estados Unidos, legisladores presentaron un proyecto de ley que exigiría estos mecanismos de desconexión, aunque el presidente Donald Trump rechazó cualquier intento de frenar el desarrollo de la IA, calificando de «engaño» las advertencias sobre sus riesgos.
El Reino Unido también descartó recientemente exigir un interruptor de este tipo, argumentando que no evitaría el desarrollo o mal uso de la tecnología en otros países. (Agencias)