OpenAI와 Anthropic은 고객을 두고 치열하게 경쟁한다. 그러나 워싱턴에서는 두 선도적 AI 연구소가 한 가지 사안에서 보조를 맞추고 있다. 바로 강력한 중국 오픈 웨이트 AI 모델의 위험성에 대해 정책 입안자들에게 경고하는 일이다.
**왜 중요한가:**이러한 공동 입장은 미국의 최고 AI 연구소들을, AI에 대한 폭넓은 접근이 경쟁과 과학적 진보에 필수적이라고 주장하는 연구자들, 스타트업들, 오픈 모델 지지자들과 대립시키고 있다.
**큰 그림:**클로즈드 모델 연구소들은 오픈 웨이트 모델에 대한 더 큰 감시로 이익을 볼 가능성이 있다.
- Trump 행정부 고문 David Sacks를 포함한 비판론자들은, 그러한 감시가 규제 포획에 해당할 수 있다고 말한다. 즉, AI 안전을 개선하려는 규칙이 오히려 경쟁사들의 모델 공개를 더 어렵게 만들어 가장 큰 기업들의 지위를 굳힐 수 있다는 것이다.
- Anthropic CEO Dario Amodei는 오픈 웨이트 모델이 안전하게 유지되기 더 어렵다고 주장해 왔다. 일단 가중치가 공개되면 개발자들은 접근 권한을 철회하거나, 안전 가드레일을 업데이트하거나, 오용을 막을 능력을 잃게 되기 때문이다.
- 바로 그 점이 오픈 웨이트 모델 지지자들이 강점으로 보는 부분이다. 어떤 단일 기업도 누가 그것들을 사용하는지, 또는 어떻게 사용하는지를 통제할 수 없다는 것이다.
**OpenAI는 오픈 소스를 "접근의 민주화"의 일부로 본다,**고 대변인은 말했지만, 그것은 국가적 틀 안에서의 이야기다. 회사는 그것이 어떻게 작동할지는 구체적으로 설명하지 않았다.
- 자체 오픈 소스 모델을 보유한 OpenAI는, 한 모델이 다른 회사의 모델을 바탕으로 훈련되는 과정인 증류에 대해 경고해 왔으며, 이는 Trump 행정부 고위 당국자들의 입장과 맥을 같이한다.
- 미국 무역대표부 대표 Jamieson Greer는 해당 기관이 중국의 증류를 지식재산 절도의 한 형태로 보고 있다고 말했다.
- Scott Bessent 재무장관은 어제 중국의 모델들도 미국 모델들과 동일한 기준이 적용되어야 하며, 앞으로 몇 주 안에 들여다보게 될 것이라고 말했다.
**마찰 지점:**아직 미국 모델들에 대한 구체적인 안전 기준은 없으며, 행정부는 그것이 어떤 모습이어야 하는지를 정하는 과정에 있다.
- 미국 당국자들의 증류 관련 의혹이 입증된다면, 이는 중국 모델 제공업체들이 미국 모델을 사용해 더 낮은 비용으로 비슷한 시스템을 개발한 뒤, 보조금을 반영한 버전을 서방 시장에 출시해 미국 연구소들과 경쟁했다는 뜻이 된다.
**행간의 의미:**지지자들은 증류를 지식재산 절도로 취급하는 것이, 독자적으로 개발된 모델들을 포함해 오픈 웨이트 모델에 대한 사실상의 제한으로 이어질 수 있다고 경고한다.
- OpenAI 대변인은 "중국 오픈 웨이트 모델의 발전은 개방성에 반대하는 논거가 아니다"라고 말했다.
- 이어 "오히려 미국이 새로운 모델을 신속하게 평가하고, 위험을 관리하며, 가장 강력한 AI 도구를 사이버 방어 담당자들의 손에 쥐여줄 수 있게 하는 일관된 국가 프레임워크의 필요성을 강화한다"고 덧붙였다.
**한발 물러서서 보면:**오픈 모델 지지자들은 기업들이 AI 활용을 다변화하려 할 때 오픈 모델이 결정적으로 중요하다고 말한다. 또한 AI 구축이 진행 중인 이 단계에서 과학적 발견에도 필수적이라고 본다.
- Biden 백악관의 전 기술 고문 Suresh Venkatasubramanian은 Axios에 "연구자로서, 예를 들어 우리가 모든 중국 모델에 대한 접근이 차단되는 상황이 된다면 매우 우려스럽다"며, 그것은 "연구를 수행하는 데 큰 문제"가 될 것이라고 덧붙였다.
- 그는 오픈 웨이트 모델이 클로즈드 모델보다 더 자유롭게 수정되고 연구될 수 있기 때문에, 연구자들에게 특히 가치가 크다고 주장한다.
**자세히 보면:**OpenAI와 Anthropic은 연방 AI 규제에 대해 비슷한 처방을 내놓을 수 있지만, 주 차원에서는 차이가 더 분명하게 드러난다.
- OpenAI는 화요일, Anthropic이 몇 주 전에 지지했던 법안 버전만큼 강경하지는 않은 매사추세츠의 프런티어 안전 법안을 지지했다.
- Anthropic이 지지한 버전은 재앙적 위험에 대해 6개월마다 독립적인 모델 테스트를 실시하고, 그 결과에 대한 공개 보고서를 요구했다. 그 버전은 또한 주 법무장관에게 미준수 기업을 상대로 소송을 제기하고 민사상 벌금을 부과할 권한을 부여했다.
- OpenAI가 지지한 법안에는 그런 내용이 없다.
**우리가 주목하는 것:**OpenAI CEO Sam Altman은 다음 주 의원들과 백악관을 만나 새 모델의 향후 공개에 대해 논의할 예정이다.
