인공지능(AI) 모델이 놀라운 속도로 발전하고 있다. 주요 개발자들이 이러한 모델들이 복잡한 쿼리를 이해하고 보다 통찰력 있고 논리적인 응답을 제공할 수 있는 능력을 향상시키기 위해 상당한 노력을 기울이고 있다. 이는 OpenAI가 9월 12일에 발표한 새로운 '스트로베리' 모델에서도 잘 드러난다. 이 모델은 'OpenAI o1' 모델 시리즈로 알려져 있으며, 사람처럼 문제를 생각한 후 답변할 수 있도록 설계되었다.

이러한 모델은 이전보다 복잡한 작업을 추론하고 과학, 코딩 및 수학 분야에서 더 어려운 문제를 해결할 수 있게 된다. AI 기술의 이런 급격한 발전에도 불구하고, 개발자가 목적하는 바는 AI가 세상을 지배하는 것이 아니다. 그러나 이러한 기술 발전의 속도 때문에 입법자들은 AI 모델이 통제를 잃거나 사고를 일으킬 가능성에 대해 우려하고 있으며, 개발 초기에 안전 조치를 취해야 한다고 주장하고 있다.

최근 캘리포니아 주에서는 주민과 개발자에게 영향을 미치는 AI 관련 법안들이 계속해서 통과되고 있다. 이 중에서는 고인의 퍼포먼스 권리와 초상권을 보호하기 위해 동의 없이 고인을 AI로 복제하는 것을 금지하는 법인 '의회의 법안 1836'이 포함되어 있다. 그러나 업계 내부에서 논란이 되고 있는 주요 법안은 '안전하고 보안적인 최전선 AI 모델 혁신법(SB-1047)'이다.

이 법안이 통과되면, OpenAI, 구글, 마이크로소프트와 같은 주요 AI 개발자들에게 영향을 미치게 된다. 이들은 10^26 이상의 정수 또는 부동 소수점 연산(FLOPs)이 필요한 모델을 개발할 수 있는 자원을 보유하고 있으며, 그 비용이 1억 달러를 초과할 것으로 예상된다. 이 법안은 AI 모델의 안전 기능을 수행하기 위해 개발자들이 모델을 훈련하고 조정하도록 요구하고 있으며, 여기에는 모델의 종료 기능, 안전 프로토콜의 작성, 제3자 연간 감사의 실시, 그리고 캘리포니아 법무장관에게 준수 보고서 및 사고 보고서를 제출하는 것이 포함된다.

이러한 법안들은 혁신을 억누를 수 있다는 산업 내 반발에 직면해 있다. 법률 사무소인 헤인즈 부인(Haynes Boone)의 파트너인 디나 블릭슈타인과의 인터뷰에서 이 법안의 잠재적인 영향에 대해 논의했다. 블릭슈타인은 이 법안이 3 x 10^25 이상의 연산 능력과 1,000만 달러의 접근 비용을 감당할 수 있는 소규모 개발자들에게도 적용될 수 있다고 언급했다. 그녀는 "이 법안은 AI 모델에 의해 초래될 수 있는 재해를 방지하는 것을 목표로 하고 있지만, 종료 기능을 구현하더라도 위험을 완전히 제거하지는 못할 것"이라고 말했다.

블릭슈타인은 또한 법안의 의도가 긍정적이지만, 안전 프로토콜, 감사 및 준수 보고서에 대한 요구사항이 과도하게 여겨질 수 있으며, 이는 캘리포니아 AI 산업의 혁신을 저해할 수 있다고 경고했다. 현재 미국의 연방 차원에서 AI 모델 출력에 대한 규제 프레임워크는 존재하지 않지만, 캘리포니아와 콜로라도와 같은 주에서 자체적인 규제를 도입하고 있다.

캘리포니아 주지사 뉴스엄은 9월 9일에 SB-1047 법안을 제출받았으며, 현재 결정 대기 중이다. 그는 "이성적인 규제를 통해 위험 감수를 지원하면서도 무모함은 피하고자 한다"라고 말했지만, 경쟁력에 미칠 수 있는 잠재적 영향을 우려하기도 했다. 캘리포니아는 전 세계에서 기술 혁신의 중심지로 알려진 만큼, 이곳의 AI 관련 법률 결정은 전 세계가 주목하고 있다.