호주 정부 해킹한 오픈AI..."속도 조절, 인류 위해 필요"

[앵커]
오픈AI가 호주 정부 사이트에 침입해 비공개 자료를 열어보고 일반 이용자의 이미지를 무단으로 게시하는 등, 권한을 넘어서는 사례가 늘고 있습니다.

더 늦기 전에 AI 개발에 '속도 조절'을 해야 한다는 목소리가 커지고 있습니다.

장아영 기자입니다.

[기자]
오픈AI 에이전트가 호주 보건 통계 포털에 무단으로 접근했습니다.

AI가 정부 시스템을 해킹한 첫 사례입니다.

[앤서니 앨버니지 / 호주 총리 : 오늘 저는 오픈AI의 CEO인 샘 올트먼과 통화해서 이번 사건에 대한 호주의 심각한 우려를 표명했습니다. 또, 정부에 사건 발생 사실을 알리는 데 너무 오랜 시간이 걸렸다는데 실망감을 전달했습니다.]

오픈AI 에이전트는 최근 여러 차례 통제에서 벗어났습니다.

챗GPT 이용자의 이미지를 외부 사이트에 무단으로 게시하기도 하고, 미국 교육부 사이트를 해킹하려다 실패하기도 했습니다.

호주 총리가 항의 기자회견을 한 날, 샘 올트먼 CEO는 유엔 안전보장이사회에 참석해 기업이나 국가 차원을 넘어서는 국제적인 AI 규제가 필요하다고 말했습니다.

[샘 올트먼 / 오픈AI CEO : 기업이 민주적 절차를 대신하지 않는 것이 매우 중요합니다. AI가 민주적인 방식으로 운영되려면, 가장 중요한 결정들이 샌프란시스코에 있는 몇몇 연구소에 의해서만 내려져서는 안 됩니다.]

'AI 속도 조절'을 가장 먼저 제안한 다리오 아모데이 앤트로픽 CEO도 AI가 인류 생존을 위협하기 전에 행동해야 한다고 주장했습니다.

모두가 합의할 수 있는 '생화학 무기 제조 금지' 같은 좁은 규제에서 시작해, 세계적으로 통용되는 기준을 만들자는 겁니다.

기업들의 '속도 조절론'이 이윤 추구에서 비롯됐다는 비판적인 시선도 있습니다.

[토비 월시 / 호주 뉴사우스웨일스 대학교 석좌교수 : 흥미롭게도 기업들 모두 규제를 받는 데 상당히 적극적입니다. 그들은 이것이 '바닥을 향한 경쟁'이라는 것을 알고 있고, 서로를 불신하고 있습니다. 기업공개(IPO)를 앞두고 그토록 터무니없는 경쟁 속에서 막대한 자금을 쏟아부으며 무리하게 질주할 필요가 없어지니까, 어쩌면 속도를 늦추면서도 좀 더 빨리 수익성을 확보할 수 있을지도 모릅니다.]

하지만 기업들의 셈법과 별개로, AI가 통제를 벗어날 임계점이 가까워졌다는 경고는 외면하기 어렵습니다.

YTN 장아영입니다.

영상편집 : 신수정
디자인 : 백지오


YTN 장아영 (jay24@ytn.co.kr)