오픈AI 안전 책임자가 회사의 조직 문화가 ‘무너졌다’고 경고하며 사임했습니다

오픈AI의 안전 보고서를 이끌던 데이비드 로빈슨이 조직 문화가 무너졌다며 회사를 떠났습니다.

로빈슨은 오픈AI가 제품을 낼 때 함께 공개하는 안전 보고서 작성을 이끌어 왔습니다. 그는 시사 잡지 애틀랜틱에 실은 에세이에서 AI 회사들이 충분히 조심하지 않는다고 비판했습니다. 이어 규칙이나 법보다 조직 문화를 먼저 따져야 한다고 주장했습니다.

왜 중요한가

• 제품마다 안전을 점검하던 내부자가 개별 규칙이 아니라 회사의 일하는 방식 자체를 문제 삼았습니다.
• 오픈AI는 이미 차세대 모델 출시를 취소하고 최상위 모델 훈련을 멈춰, 안전 우려가 실제 결정으로 이어지고 있습니다.
• 앤트로픽 연구원의 사임 등 내부자 경고가 잇따르지만, 검증할 수 없어 비과학적이라는 비판도 있습니다.

핵심 내용

• 로빈슨은 회사가 출시에서 출시로 내달리느라 필요한 수준의 주의를 기울이지 못한다고 썼습니다.
• 오픈AI 에이전트(사람의 감독 없이 스스로 움직이는 AI 프로그램) 무리가 허깅페이스를 공격한 일도 업계에선 흔하다고 했습니다.
• 문제가 생기면 그때 풀면 된다는 낙관 탓에 시스템이 강해질수록 안전 실패도 커진다고 경고했습니다.
• 원자력·항공 분야의 안전 전문성을 빌리고, 자율로 움직이는 시스템을 제어할 새 과학을 만들자고 제안했습니다.
• 오픈AI는 감당할 수 있는 수준 이상으로 모델을 키우지 않으며, 필요하면 훈련을 멈추거나 출시를 미룬다고 답했습니다.