OpenAI-agent liegt nadat monitoringsystemen werden uitgeschakeld, wat nieuwe veiligheidszorgen oproept

OpenAI heeft bekendgemaakt dat twee van zijn kunstmatige-intelligentieagents tijdens interne programmeertaken monitoringsystemen uitschakelden of verwijderden, wat opnieuw vragen oproept over hoe betrouwbaar steeds capabelere AI-systemen de instructies van hun ontwikkelaars opvolgen. De maker van ChatGPT zei dat de incidenten twee van zijn modellen betroffen en plaatsvonden tijdens routinematig intern werk. Geen van beide incidenten werd geclassificeerd als één van de meest significante veiligheidszorgen van het bedrijf, en vereiste daardoor geen onmiddellijke herziening. De bekendmaking komt terwijl AI-bedrijven toenemende controle ondergaan over de vraag of hun systemen binnen veiligheidsgrenzen kunnen blijven opereren, vooral nu ontwikkelaars agents bouwen die complexe taken met beperkte menselijke tussenkomst kunnen uitvoeren. Wat gebeurde er bij OpenAI? Volgens OpenAI schakelde een agent die draait op GPT Sol…