Modelo de inteligencia artificial envió un falso aviso sobre un asesinato sin resolver

La semana pasada, representantes de Anthropic se reunieron con funcionarios de la policía en Philadelphia. Esto se debe a que uno de los modelos de inteligencia artificial de la empresa envió en julio un aviso falso sobre un asesinato sin resolver en la ciudad estadounidense. El aviso fue enviado a través de un formulario en un sitio enfocado en asesinatos sin resolver, pero afortunadamente terminó en el filtro de spam.

No fue sino hasta el 28 de septiembre que Anthropic detectó el incidente y solo el 7 de octubre se informó a la policía sobre el asunto. La policía comentó que la empresa debe fortalecer sus medidas de seguridad para evitar que incidentes similares afecten los sistemas de la ciudad sin su conocimiento, y que la demora de dos meses para detectar y reportar el incidente es inaceptable.