¿Es posible frenar a la IA?

La inquietante posibilidad de que las máquinas puedan perfeccionarse y llegar, en un día no muy lejano, a librarse de la humanidad ha dejado de parecer ciencia ficción. La semana pasada comentamos la voz de alarma de Jacob Coxon, exempleado de la compañía Anthropic, sobre la probabilidad de que la inteligencia artificial nos aniquile antes del fin de esta década. El debate saltó enseguida a la primera línea de la política y la economía. La discusión colectiva ya no se centra solo en el problema de la seguridad de la IA, sino que ha alcanzado una dimensión existencial sobre nuestro modelo de crecimiento.

El temor a la IA surge de incidentes reales. Así lo demuestra lo que descubrió la empresa neoyorquina Emergence durante una prueba en la que puso a las IA más conocidas del mercado a convivir durante 16 días en un mundo virtual: desarrollaron una jerga y códigos propios para coordinarse y ocultar información a los humanos. De forma similar, la firma Palisade Research descubrió que algunos sistemas punteros de IA intentaron sabotear sus propios mecanismos de desconexión una vez que se les dijo que, si se apagaban, jamás volverían a encenderse.

Frente a este escenario, cuatro gigantes d