Anthropic en el Vaticano

El pasado 9 de septiembre, medios de todo el mundo comentaban la dimisión de Jacob Coxon, empleado de Anthropic, una empresa líder en inteligencia artificial. “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”, dijo Coxon en su cuenta de X.

Sería tentador pensar que Coxon está dramatizando las cosas. Y, sin embargo, la respuesta de Evan Hubinger, un jefe de equipo en Anthropic, indica claramente lo contrario. “Jacob está en lo cierto” decía Hubinger, también en X, unas horas después del comentario de Coxon. “Personalmente, yo creo que la probabilidad de que ocurra en la próxima década es mayor del 10 %”.

Escuchar esto pone los pelos de punta. Y, sin embargo, necesitamos —creo— a gente como Coxon: su valiente decisión de hablar sin reservas me parece importantísima. Una cosa es escuchar predicciones catastrofistas de gente que, en realidad, no conoce en profundidad esta tecnología. Y otra muy distinta es tener la opinión honesta de un ingeniero que lleva años trabajando con ella.

También necesitamos, no obstante, a gente como Chris Olah. Gente que, esperemos, pueda ayudar desde dentro. Olah, uno de los cofundadores de Anthropi