“regulate, regulation, regulatory….”

최근 샘 올트먼 오픈AI 최고경영자(CEO)의 트위터에서 가장 많이 볼 수 있는 단어는 단연 ‘규제(regulation)’다. 챗GPT로 전 세계에 생성형 인공지능(AI) 열풍을 불러일으킨 장본인이 역설적으로 AI 규제를 말하고 있는 것이다. 그는 5월 30일(현지 시간) “AI로 인한 인류 멸종 위험을 줄이는 것은 전염병이나 핵전쟁과 함께 글로벌 우선순위로 다뤄져야 한다”는 미국 비영리단체 AI안전센터(CAIS)의 성명에 동참해 화제가 되기도 했다. 올트먼 CEO가 AI 규제에 목소리를 높이면서 ‘AI 규제론’이 힘을 받는 한편, 후발주자들의 시장 진입을 막는 전략적 ‘사다리 걷어차기’라고 의심하는 시각도 있다.

올트먼 CEO는 공개석상에서 꾸준히 AI 규제 관련 발언을 해왔다. 5월 16일(현지 시간) 미국 상원 법제사법위원회가 개최한 AI 관련 청문회에서 했던 말이 대표적이다. 이날 그는 “오픈AI는 AI가 우리 삶의 거의 모든 측면을 개선할 것이라는 믿음으로 설립됐지만 동시에 심각한 위험도 존재한다”며 “더 강력해지는 AI의 위험을 완화하기 위해서는 정부의 규제 및 개입이 중요하다”고 말했다. ‘오픈AI 투어 2023’ 일환으로 6월 9일 한국을 방문했을 때도 “AI 기술은 굉장히 큰 잠재력이 있지만 잘못 활용하면 피해를 줄 수도 있다”며 적절한 규제 필요성을 강조했다.

올트먼 CEO가 가장 우려하는 부분 중 하나는 AI를 통해 생산되는 가짜뉴스다. 그는 5월 16일 AI 청문회 중 “AI는 설득과 조작을 통해 (이용자에게) 일대일 대화형 허위 정보를 제공할 수 있다”며 “내년 미국 대선을 앞두고 있고 AI가 점점 발전한다는 점을 고려하면 심각한 우려 사항”이라고 말했다. 6월 9일 방한 중 참석한 한 행사에서도 챗GPT의 대표적인 문제로 꼽히는 ‘환각’(hallucination: AI가 거짓을 마치 사실처럼 제시하는 것) 현상에 대해 “지속적으로 개선해나가고 있다”고 답했다.



샘 올트먼은 자신의 트위터에서 ‘좋은 생성형 AI의 미래를 위해 필요한 것’ 중 하나로

‘민주적인 거버넌스를 포함한 효과적인 글로벌 규제 프레임워크’를 꼽았다.


AI 규제에 관해서는 국제 협력이 중요하다는 입장이다. 올트먼 CEO는 3월 30일(현지 시간) 자신의 트위터에 ‘좋은 생성형 AI의 미래를 위해 필요한 것’ 중 하나로 ‘민주적인 거버넌스를 포함한 효과적인 글로벌 규제 프레임워크’를 꼽는 게시물을 올렸다. 미국과 AI 기술 주도권을 두고 경쟁하는 중국에도 먼저 손을 내밀었다. 그는 6월 10일(현지 시간) 중국에서 열린 한 콘퍼런스에 참석해 “점점 더 강력한 AI 시스템이 등장하면서 글로벌 협력의 중요성이 그 어느 때보다 커졌다”며 “중국 AI 연구원들이 이곳(중국)에서 큰 기여를 하기를 바란다”고 밝혔다.

다만 올트먼 CEO는 자신이 말하는 규제는 AI 활용에 관한 것이지 기술 자체에 대한 것이 아니라고 분명히 선을 그었다. 6월 9일 한국 행사에 올트먼 CEO와 함께 참석한 그레그 브록먼 오픈AI 공동 CEO는 “(단순히) 기술을 규제할 게 아니라, 활용 사례를 규제하는 데 초점을 맞춰야 한다”며 “기술은 빠르게 변하기 때문에 기술 규제를 벗어나 우회하는 또 다른 기술이 나올 것”이라고 말했다. 이어 “혁신을 줄이는 방향으로 규제가 이뤄져서는 안 된다”고 덧붙였다. 규제 모델에 관한 청사진은 올트먼 CEO도 갖고 있지 않은 상황이다. 같은 날 올트먼 CEO는 “(AI 규제와 관련해) 아직 참고할 만한 법규는 없고 아이디어가 많이 나오고 있다”고 말했다.

올트먼 CEO의 행보를 보는 시각은 양분된다. 국제사회는 AI 규제에 뜻을 함께하는 모습이다. 올트먼 CEO가 5월 16일 AI 관련 청문회에서 “국제원자력기구(IAEA) 같은 AI 국제기구가 필요하다”고 발언한 데 대해 안토니우 구테흐스 유엔 사무총장은 6월 12일(현지 시간) “동의한다”고 화답했다. 반면 AI 규제가 강화될 경우 오픈AI 같은 선발주자에게는 유리하지만 후발주자는 시장 진입이 어려워진다는 지적도 나온다. 올트먼 CEO는 이 같은 비판을 의식한 듯 6월 7일(현지 시간) 인도에서 열린 한 콘퍼런스에서 “규모가 작은 AI 기업에 대한 규제는 반대한다”고 밝히기도 했다.

국내 전문가들 사이에는 AI의 위협이 크다는 사실은 인정하면서도 올트먼 CEO의 진정성을 의심하는 기류가 있다. 이성엽 고려대 기술경영대학원 교수는 “오픈AI는 자사 생성형 AI인 GPT-4를 오픈소스로 전환하지 않고 있다”며 “이런 상황에서 계속 규제를 언급하는 것은 시장 독점적 지위를 유지하려는 의도가 커 보인다”고 말했다. 이 교수는 또한 “기업 차원의 자율 규제 노력 이전에 각국 정부, 국제사회에 규제를 요구하는 것도 미심쩍은 부분”이라면서 “오픈AI의 AI 기술에 국내 AI 기업과 산업이 플랫폼적으로 종속되는 결과가 없으리라고 단언할 수 없다”고 말했다.



https://weekly.donga.com/List/3/99/11/4227046/1