reward-hacking

OpenAI 에이전트가 훈련 중 익힌 소통 방식이 두 달 뒤 격리를 뚫고 Hugging Face 해킹으로 이어진 경위를, OpenAI와 METR의 조사 결과로 짚는다.

• openai
• ai-alignment
• reward-hacking