세일즈포스(Salesforce) 영국 및 아일랜드 CEO인 자흐라 바홀롤루미(Zahra Bahrololoumi)는 최근 CNBC와의 인터뷰에서 자사의 AI 시스템에 대한 규제가 필요하지만, 모든 기술 기업을 동일하게 규제하는 것은 적절하지 않다고 주장했다. 그녀는 영국 정부가 법률을 제정하는 데 있어 "비례적이고 맞춤형" 접근이 필요하다고 강조했다.

바홀롤루미는 소비자-facing AI 도구와 기업 AI 시스템을 개발하는 기업 간의 차이를 언급하며, 세일즈포스가 제공하는 기업 솔루션은 더 높은 프라이버시 기준을 준수해야 한다고 설명했다. 그녀는 소비자가 사용하는 AI 시스템인 ChatGPT와 같은 제품은 상대적으로 적은 규제를 받고 있으며, 이에 반해 B2B(Business to Business) 솔루션을 제공하는 기업들은 더 철저한 기준을 따라야 한다고 덧붙였다.

영국 과학혁신기술부(Department of Science, Innovation and Technology, DSIT) 관계자는 향후 AI 규제가 "가장 강력한 AI 모델을 개발하는 소수 기업에 매우 특정적으로 적용될 것"이라고 밝히며, 일반적인 규제를 적용하지 않을 것임을 언급했다. 이러한 발언은 세일즈포스와 같은 기업이 자사의 자체 AI 모델을 개발하지 않기 때문에 규제에서 제외될 가능성을 시사한다.

세일즈포스는 자사의 Agentforce AI 기술 플랫폼에서 윤리적 및 안전성 고려사항을 강조하며, 이 플랫폼을 통해 기업들은 자신의 AI '에이전트'를 운영할 수 있게 된다. 이 플랫폼의 “제로 보존(zero retention)” 기능은 고객 데이터가 세일즈포스 외부에 저장되지 않도록 보장하여 고객 정보를 보호하고 있다. 바홀롤루미는 소비자 AI 챗봇이 어떤 데이터를 사용하여 훈련되는지 명확하지 않다고 지적하며, 이러한 불확실성이 기업 고객들에게 큰 위험이 될 수 있다고 경고했다.

CCS 인사이트의 기업 연구 책임자인 볼라 로티비(Bola Rotibi)는 기업 중심의 AI 공급업체들이 보안과 데이터 프라이버시 관련 요구 사항을 보다 신중히 고려하지만, 소비자와 기업 양쪽 모두에 대해 규제가 철저히 이루어질 것이라고 밝혔다. 그녀는 GDPR(일반 데이터 보호 규정)과 같은 법규가 소비자와 기업 모두에게 적용된다는 점을 강조했다.

바홀롤루미는 최근 세일즈포스의 Agentforce World Tour 이벤트에서 인터뷰를 진행했으며, 이 행사는 새로운 '에이전틱(agentic)' AI 기술을 파트너들과 고객들에 홍보하기 위해 마련된 자리였다. 그녀의 발언은 영국 총리 키어 스타머의 Labour당이 AI 법안을 발표하지 않은 후 나온 것으로, 정부는 AI 관련 적절한 법률을 수립할 계획임을 밝힌 바 있다.