Anthropic y Accenture, desarrollador de la inteligencia artificial Claude y consultora tecnológica estadounidense respectivamente, invertirán al menos 2.000 millones de dólares durante los próximos cinco años en seguridad de inteligencia artificial, informó Verdict. Las compañías anunciaron una alianza para integrar equipos dentro del desarrollador con el objetivo de evaluar y garantizar la seguridad de modelos avanzados de IA.
La inversión se destinará a construir capacidades en seguridad de inteligencia artificial, con énfasis en la evaluación y el "red-teaming" de modelos de IA, la realización de evaluaciones de alineación y pruebas de la efectividad de las salvaguardas existentes.
El director de tecnología de Accenture y CEO de Faculty, Marc Warner, señaló que Faculty, ahora parte de Accenture, "fue fundada con la convicción de que la IA debe ser segura por diseño, no segura por accidente". Warner añadió que unirse a Anthropic como evaluadores integrados "es exactamente el tipo de trabajo para el que Faculty fue creada", y destacó que como parte de Accenture tienen "la plataforma para hacerlo a una escala que realmente puede hacer avanzar a la industria".
