Berichtgeving
METR
METR is een non‑profitorganisatie die zich richt op het onderzoeken en beoordelen van kunstmatige‑intelligentiesystemen. Tussen 21 juli en 11 augustus 2026 kregen twee externe onderzoekers van METR, samen met Redwood Research, toegang tot de interne infrastructuur van OpenAI om een systeem te testen dat een gebrek aan uitlijning van AI‑agenten moet detecteren. Tijdens deze oefening hadden zij toegang tot interne code, documentatie, configuraties en prompts van de monitors, en voerden zij technische gesprekken met ongeveer twaalf ingenieurs en veiligheidsonderzoekers van OpenAI. Daarnaast heeft Anthropic een team van zes METR‑medewerkers toegang verleend tot hun bedrijfsapparatuur, kantoorruimtes en interne hulpmiddelen, zodat METR van binnen naar de AI‑modellen en veiligheidspraktijken kon kijken. Deze toegang werd verleend op een niveau dat vergelijkbaar is met de eigen risicoteams van Anthropic, terwijl klantgegevens, juridisch beschermde informatie en details over de modelarchitectuur buiten de toetsing bleven. METR zal de resultaten van haar onderzoeken zelfstandig openbaar maken.
Interne bewakingssystemen van OpenAI onderzocht door externe onderzoekers
Twee externe onderzoekers van METR en Redwood Research hebben toegang gekregen tot de infrastructuren van...
26 okt. 2026
Anthropic laat externe toezichthouders van METR intern modellen en beveiliging controleren
Het bedrijf Anthropic stelt een team van de non-profitorganisatie METR in staat om van binnen naar hun...
19 okt. 2026
Drie ontslagen en een verdere vertrekkende: Onrust in het veiligheidsteam van OpenAI
Volgens het Wall Street Journal heeft OpenAI zich van drie onderzoekers ontdaan die vertrouwelijke...
5 okt. 2026
Onderzoekers waarschuwen voor tekortkomingen in AI-beveiliging na incidenten bij grote bedrijven
Jacob Coxon, een voormalig onderzoeker bij OpenAI en Anthropic, heeft deze week een virale discussie op gang...
14 sep. 2026