Anthropic desarticuló posibles complots que usaban su IA para investigar armas biológicas
SOCIEDAD
La tecnológica no pudo determinar si los estudios tenían fines legítimos o maliciosos, pero los bloqueó preventivamente
10 sep 2026 . Actualizado a las 21:39 h.La empresa de inteligencia artificial Anthropic afirmó este jueves que ha frustrado varios posibles complots en los que se utilizaron sus modelos de IA para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas. La compañía indicó en un informe que detectó y bloqueó estos usos indebidos durante este año, aunque no pudo determinar si los estudios tenían fines legítimos o maliciosos, por lo que optó por bloquearlos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos.
«Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real», explicó la empresa en el documento que recoge la agencia Efe.
Hasta el momento, la corporación californiana negó que tuviera constancia de que alguna empresa privada haya compartido públicamente «evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas».
Anthropic incluyó además, en otro comunicado, una extensa lista de casos detectados en los últimos ocho meses en los que se habían usado sus modelos de IA de manera indebida, incluido el chatbot Claude, en China, Rusia y Yemen. Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, así como también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.
La empresa tecnológica aseguró haber desarrollado sistemas de detección para identificar y bloquear los usos que puedan suponer un riesgo en sus modelos de IA.
Un ingeniero de la compañía dimitió hace unos días por la falta de responsabilidad con la IA
«Podrá matarnos a todos al final de la década», aseguró a través de las redes sociales Jacob Coxon, un ingeniero de Anthropic que dimitió tras comprobar la falta de responsabilidad con la IA que tenía tanto la compañía. Considera que tanto ella como OpenAI «están jugando con nuestras vidas», ya que «no hay otra actividad humana que suponga este nivel de amenaza».
En su opinión, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia: los primeros «tal vez no han internalizado en profundidad los retos civilizacionales», mientras que los segundos los comprenden bien pero «están atrapados en la carrera por llegar primero», aun cuando en el caso más optimista se trate de llegar primero «para actuar con responsabilidad».