캘리포니아 주지사 개빈 뉴섬이 인공지능(AI) 안전 법안인 SB 1047을 거부했다고 밝혔다. 뉴섬 주지사는 이 법안이 혁신을 저해하고 AI 기술이 야기하는 '진짜' 위협으로부터 대중을 효과적으로 보호하지 못할 것이라고 주장했다. 9월 30일에 이 법안을 거부한 뉴섬 주지사는, 법안이 실질적으로 AI 기술의 발전을 규제하는 데 치중하며 기존의 대형 AI 기업에 대한 규제를 강화하는 데 지나치게 집중했다고 설명했다.

SB 1047은 '프론티어 인공지능 모델의 안전하고 안전한 혁신법'으로 알려져 있으며, AI 모델의 안전 테스트를 의무화하는 내용을 포함하고 있었다. 그러나 많은 기술 기업들은 이 법안이 혁신의 발목을 잡을 것이라는 우려를 표명했다. 뉴섬 주지사는 법안의 내용이 '대형 시스템'에 적용될 경우 기본적인 기능에도 과도한 규제를 가하게 될 것이라는 문제를 지적하며, 이는 기술이 발생시킬 수 있는 실제 위협으로부터 대중을 보호하기 위한 최선의 접근이 아니라고 덧붙였다.

이번 법안의 상정자인 샌프란시스코 민주당원 스콧 위너(Senator Scott Wiener)는 캘리포니아 내 AI 개발자들이 AI 모델을 위한 '킬 스위치'를 구현하고, 극단적인 위험을 완화하기 위한 계획을 공개하도록 요구하는 조항을 담았다. 법안이 시행될 경우, AI 개발자는 AI 모델로 인해 발생할 수 있는 위협에 대해 주 검찰로부터 소송을 당할 수 있는 책임을 지게 된다. 뉴섬 주지사는 세계 최고의 AI 안전 전문가들에게 도움을 요청하고, AI 개발로 인해 발생할 수 있는 잠재적인 재앙을 평가할 것을 지시했다고 말했다.

그럼에도 불구하고 뉴섬은 AI의 기초적인 안전 프로토콜을 마련해야 한다고 강조하며, 주요 재앙이 발생하기 전까지 공공을 보호하기 위한 조치를 취할 수 없다고 주장했다. 그는 최근 30일 간 AI 규제와 관련해 18개 이상의 법안을 서명했다고 덧붙였다.

법안은 정치인들과 대형 기술 기업들 사이에서 큰 논란을 일으켰으며, 하원의장 낸시 펠로시(Nancy Pelosi)와 OpenAI와 같은 기업들은 이 법안이 AI의 발전을 심각하게 저해할 것이라고 경고했다. 그러나 몇몇 이들은 이 법안에 찬성하는 의견을 밝히고 있으며, 그 중 엘론 머스크가 가장 대표적이다. 머스크는 자신의 AI 모델 'Grok'을 개발 중이며, 8월 26일 X에 "캘리포니아는 SB 1047 AI 안전 법안을 통과시켜야 한다"고 언급했다.

결론적으로, 이번 법안의 거부는 캘리포니아의 AI 안전 규제에 대한 접근 방식과 앞으로의 방향성을 논의하는 중요한 기점이 될 것이다. AI 기술의 발전과 동시에 공공의 안전을 어떻게 확보할 것인지에 대한 논의가 필요하며, 이에 따라 추가적인 규제와 가이드라인이 마련될 것이라는 전망도 제기되고 있다.