티스토리 뷰
목차
찰스 3세 영국 국왕이 엔비디아와 구글 딥마인드, 오픈AI, 앤트로픽 등 주요 AI 기업 관계자들을 한자리에 불러 모았습니다. AI가 잘못된 방향으로 쓰일 수 있다는 우려를 직접 전달하기 위해서입니다.
이 자리에서는 AI 제품을 출시하기 전 충분한 안전성 검증이 필요하다는 목소리가 나왔습니다.
찰스 3세가 직접 나선 이유
AI가 잘못된 손에 들어갈 위험
찰스 3세는 이번 회동에서 AI 기술이 잘못된 손에 들어갈 수 있다는 점을 경고했습니다.
제품이 출시된 뒤 문제가 생기면 모니터링하고, 필요하면 기존 법에 새 규정을 추가하면 된다는 입장도 밝혔습니다.
엔비디아·구글·오픈AI·앤트로픽까지 총출동
이날 자리에는 젠슨 황 엔비디아 CEO, 데미스 하사비스 구글 딥마인드 CEO, 새러 프라이어 오픈AI CFO 등이 참석했습니다.
업계를 대표하는 인물들이 한자리에 모였다는 점에서 AI 안전 논의가 한 단계 격상됐다는 평가가 나옵니다.
업계 반응은 엇갈려
"충분히 안전하지 않으면 출시 보류"
젠슨 황 엔비디아 CEO는 AI 시스템을 엄격하게 시험해야 하며, 충분히 안전하지 않다면 출시를 보류하고 개발을 계속해야 한다고 말했습니다.
아마존 역시 모델을 출시하기 전 엄격한 시험과 검증을 거친다는 입장을 밝혔습니다.
규제기구 신설에는 온도 차
일부 CEO들은 새로운 AI 규제기구를 만드는 방안에는 신중한 태도를 보인 것으로 전해졌습니다.
앤트로픽 측은 이미 AI가 AI 개발의 상당 부분을 주도하고 있다는 조사 결과를 언급하며 속도감 있는 대응이 필요하다고 강조했습니다.
왜 지금 이런 논의가 나올까
AI 확산 속도가 예상보다 빨라
업계에서는 AI 기술 확산 속도가 예상보다 훨씬 빠르다는 공감대가 커지고 있습니다.
기업들이 서로 다른 속도로 신제품을 내놓으면서 안전성 검증에 대한 논의도 함께 속도를 내는 모습입니다.
각국 정부도 관심 있게 지켜보는 중
영국 왕실이 직접 나선 것은 이례적인 일로 받아들여지며, 각국 정부도 이번 논의를 주의 깊게 지켜보고 있습니다.
앞으로 AI 기업들이 내놓을 구체적인 안전 조치에 관심이 쏠리고 있습니다.
정리하면
찰스 3세가 엔비디아, 구글 딥마인드, 오픈AI, 앤트로픽 등 AI 리더들을 소집해 AI 위험에 대한 통제 수단 마련을 촉구했습니다.
업계는 안전성 검증의 필요성에는 공감하면서도 규제기구 신설 등 구체적인 방식에는 다소 엇갈린 반응을 보이고 있습니다.