캘리포니아 주지사가 만지작거리는 새 인공지능 규제안

문가용 기자

Published: 12:44, 25 Sep 2025 (Updated: 12:43, 05 Oct 2025)

💡

Editor's Pick
- 인공지능 개발사 규제하는 새 법안, SB53
- 이전에 주지사가 한 번 거부한 적 있으나 지금은 의견 다른 듯
- 규제보다는 예방과 투명성에 초점

미국 캘리포니아의 주지사가 SB53라는 새로운 인공지능 규제를 놓고 고심 중에 있다. 캘리포니아 주의 모든 입법 과정을 통과한 이 새 규정은 이제 주지사의 서명만 받으면 공식 법으로 자리를 잡게 된다. 인공지능 기술 개발을 규제하려니 캘리포니아 주에 둥지를 튼 IT 기업들의 눈치가 보이고, 하지 않으려니 그 반대편의 분위기도 심상치 않다. 이번 기사에서는 인공지능 분야에서 논란이 되고 있는 SB53에 대해 알아보도록 한다.

법안이 명시하고 있는 목적
SB53라는 법안의 목적성을 단 한 줄로 정의하면 다음과 같다. “인공지능 시스템 개발자들에게 투명성, 안전 계획, 보고, 규제 준수의 의무를 부여하는 것.” 즉 인공지능으로 인해 문제가 발생했을 때 그 책임을 개발자들이 질 수 있어야 한다는 것이다(책임을 져야 한다는 것과는 다른 의미다). 물론 어떤 문제가 발생했느냐에 따라 개발자들이 책임을 지고 싶어도 지지 못하게 될 수 있으며, 그렇기에 사건 발생을 미연에 방지하기 위한 ‘계획’, ‘보고’ 등의 의무까지 같이 부여한다는 게 SB53다.

그렇다면 이 새 규정(아직은 통과되지 않았지만)을 준수해야만 하는 건 누구일까? 구글이나 오픈AI, MS, 메타 등 우리가 흔히 생각하는 인공지능 모델들을 개발하는 회사들? 맞다. 보통 일반인들 사이에서도 화제가 되는 거대 인공지능 모델을 개발하는 회사들이다. 일반 인공지능 모델들보다 규모나 기능적인 측면에서 전혀 다른 범주에 있는 것들이 규제의 대상이 된다. 다만 SB53의 정확한 규제 대상이 회사 이름으로까지 명시되지는 않았다. 실제 시행이 되기 시작하면 구체적으로 알려질 것으로 예상된다.

💡

여기서 잠깐!
일반 인공지능 모델(즉 SB53의 대상이 되지 않는 것들)은 수천만~수억 개 정도의 매개변수로 학습된 시스템으로, 특정 목적만을 수행하기 위해 개발되는 게 보통이다. 유명한 챗GPT처럼 다방면으로 고른 기능성을 보여주지 못한다. 다만 훈련된 특정 분야에 있어서는 챗GPT보다 뛰어날 수도 있다. 초대형 인공지능 모델(즉 SB53의 대상이 되는 것들)은 수십억~수천억 개의 매개변수로 학습되며, 범용성이 가장 큰 특징이다. 추론, 복잡한 계획, 코드 작성 등의 직업을 수행할 수 있는 것도 이 ‘초대형 모델’들이다.

개발사들, 어떤 예방 조치를 취해야 하는가?
SB53는 초대형 인공지능 모델이 야기할 수 있는 문제들(법안에서는 ‘재앙’이라는 표현까지 나온다)의 예방을 중시한다. 그래서 개발사들에 여러 가지를 요구하고 있다. 이걸 정리하면 ‘투명성’이라고 할 수 있다. 위험 평가, 위험에 대한 완화 조치, 테스트 방법과 결과, 배포 관리 방안을 투명하게 공개하라는 것이다. 또한 사고 발생 시 캘리포니아 법무 장관에게 서면 보고해야 하는데, 이 보고 시스템은 앞으로 마련될 것으로 보인다. 인공지능 관련 사고는 중앙에서도 추적하고 관리하겠다는 의미다.

여기에 더해 SB53는 “내부 고발자도 철저히 보호한다”는 방침까지 세우고 있다. 거대 인공지능 모델을 개발하고 운영하는 회사가, 충분한 안전 조치를 취하거나 하지 않을 때, 내부자가 이를 별도로 세상에 알릴 수 있게 한다는 것으로, 이 역시 신고 채널의 별도 신설이 있을 예정이라고 한다. 신고자의 신원이 알려져도 회사는 응징을 할 수 없으며, 심지어 고발 내용에 대한 후속 조치를 고발자에게 꾸준히 알려야 한다.

회사에서 내부 고발을 막기 위해 비밀 유지 조항을 확대 적용할 수 있는데, 이 역시 SB53가 막고 있다. 회사는 직원과 고용 계약을 맺을 때 내부 고발을 막기 위한 ‘꼼수’를 부릴 수 없다. 하지만 이것이 실제적으로 지켜질지는 두고봐야 알 일이다.

새로운 컴퓨팅 클러스터, 칼컴퓨트(CalCompute)
SB53는 새로운 클라우드 기반 컴퓨팅 클러스터의 신설 역시 규정하고 있다. 정부가 운영하는 시설로, ‘공공 연구’를 목적으로 하고 있다. 여기서 말하는 ‘공공 연구’란 ‘안전하고 공평한 인공지능 연구를 촉진시켜 공익성을 추구한다’는 걸 의미한다. 거대 인공지능 기업에 소속되지 않은 전문가나 연구자들, 혹은 스타트업들을 지원하기 위한 장치다.

가장 큰 문제를 일으킬 만한 기술에 족쇄를 거는 것에 더해, 공공 연구를 위한 시설을 별도로 마련한다는 측면에서 SB53는 나름의 균형을 갖추고 있다는 평가를 듣고 있다. 그렇잖아도 인공지능 기술은 개발에 큰 돈이 들어 세계에서 손꼽히는 초거대 기업들만 독점적으로 연구할 수 있는 게 현실이었다. 그래서 기술 사용의 형평성 문제가 꾸준히 제기됐다. 먼저 인공지능을 접할 수 있는 자가 경쟁에서 앞서갈 수 있으니, 누구나 인공지능에 공평하게 접근할 수 있어야 한다는 주장들이 사회 전반적으로 제기되던 상황이었던 것이다.

칼컴퓨트가 신설됐을 때 ‘신규 기술에의 공평한 접근’ 문제가 어느 정도나 해결될지는 예측할 수 없지만 해볼만한 시도라는 분석이 일반적이다. 이거 하나로 모든 문제가 해소되지 않겠지만, 시작점으로서는 충분한 역할을 할 수 있지 않겠느냐는 것이다. 이 때문에 SB53 이전 규제 시도에 반대하던 사람들이 상당수 돌아선 것으로 알려져 있다.

💡

여기서 잠깐!
SB53 이전에 SB1047이라는 것이 있었다. 2024년, 거대 인공지능 모델 개발사들에 의무와 책임을 새롭게 부여한다는 내용의 법안이 제출됐는데, 이게 바로 SB1047이다. SB53보다 더 많은 책임을 개발사에 부과하고자 했으며, 심지어 사고 발생 시 개발사가 민사 책임을 져야 한다는 항목도 포함돼 있었다. 지나치게 ‘규제 중심’이었기 때문에 주지사가 거부했다. SB53는 완화된 버전으로, 규제보다 예방과 투명성이 강조되어 있다.

현재 어디까지 와 있나
SB53 법안은 캘리포니아 주 의회를 통과해 현재 주지사의 책상 위에 올라와 있다. 딱 한 사람의 서명만 남은 상황인 것으로, 아직 주자시의 마음에 대해서는 알려진 바가 없다. 하지만 일부 공식 행사에서 개빈 뉴섬(Gavin Newsom) 주지사는 이번 법안에 대해 거론하며 “꽤나 균형이 잡혀 있다”고 평한 바 있다. 그 전에도 여러 전문가들과의 공개 및 비공개 회의를 통해 SB53를 점검한 것으로도 알려져 있다. 거부할 거였다면 이렇게까지 움직이지 않았을 거라고 현지 매체들은 보도하고 있다.

다만 아직 SB53가 완전하지 않다는 의견도 팽팽하다. 특히 어떤 기술 혹은 기업들이 규제의 대상이 되는지가 명확하지 않다는 게 훗날 혼란을 야기할 수 있다는 불만의 목소리가 만만치 않다. 법 내용만 있지, 그것을 지켜져야 할 주체가 명확하지 않다면 악용 소지가 크다는 것이다.

게다가 캘리포니아라는 일개 지역에서 이런 법안이 통과된다고 해서 인공지능 기술 분야 전반의 분위기가 바뀔 가능성이 낮으며, 그렇다면 인공지능을 안전하게 발전시키는 데 있어 새 규정이 미칠 영향은 거의 없을 거라는 예측도 나오고 있다. 즉 실효성을 기대하기 힘든데, 지역 내 연구 행위만 억제될 수 있다는 내용이다.