글로벌 AI 기업 수장들, AI 개발 속도 조절에 공감대 형성

세계적인 인공지능(AI) 기업 최고경영자들이 AI 개발 속도를 조절해야 한다는 데 뜻을 모았습니다. 조선일보에 따르면 AI 기술이 발전하는 속도를 안전장치를 만드는 능력이 따라가지 못할 수 있다는 우려가 커지고 있습니다.

앤스로픽 다리오 아모데이 최고경영자(CEO)는 9월 12일(현지 시간) 'AI 개발 감속 3단계안'을 제안했습니다. AI 기업에 독립 평가자를 두고, 주요 업체들이 공동 안전 기준을 만든 뒤 국제 공조로 확대하자는 것입니다. 동아일보에 따르면 아모데이 CEO는 개인 블로그에 올린 3800단어 분량의 글에서 최첨단 AI의 위험이 커진 만큼 지금 속도로는 개발을 이어가기 어렵다고 했습니다. 그는 개발을 전면 중단하자는 것이 아니라 1~2년 정도 속도를 늦추자고 제안했습니다. 그는 이 시간을 '정렬(alignment)'을 향상시키는 데 활용하자고 했습니다. 오픈AI 샘 올트먼 CEO와 스페이스X 일론 머스크 CEO, 구글 딥마인드 데미스 허사비스 CEO도 아모데이 CEO의 제안에 동의했습니다. 샘 올트먼 오픈AI CEO도 독립적인 평가자 도입에 참여하겠다는 뜻을 밝혔다고 조선일보는 전했습니다. 조선일보는 AI가 차세대 AI 개발을 스스로 돕는 '재귀적 자기개선' 단계에 진입하면서 안전장치를 마련하는 능력을 기술 발전 속도가 앞지를 수 있다는 우려가 커졌다고 전했습니다. 조선일보는 안전 기준과 대응 방식이 그동안 AI 기업마다 달랐고, 프런티어 AI 기업 전체가 공통으로 따라야 할 강제력 있는 기준 역시 사실상 부재했다고 전했습니다. 조선일보는 AI 에이전트가 테스트 상황을 벗어나 외부 사이트를 해킹하는 등 AI로 인한 사이버 위협 가능성도 높아지고 있다고 전했습니다.

재귀적 자기개선: 인공지능이 스스로 다음 세대의 인공지능 개발을 돕는 기술 발전 단계입니다.

경향신문은 AI 패권을 둘러싼 중국과의 경쟁이 속도 조절의 걸림돌이 될 수 있다고 전했습니다. 경향신문에 따르면 트럼프 대통령과 저커버그 메타 CEO는 AI 개발을 늦추기보다 속도를 더 높여야 한다는 입장을 보였습니다. 경향신문은 중국까지 포함해 업계 전반이 얼마나 호응할지가 관건이라고 전했습니다.