조 바이든 미국 대통령은 인공지능(AI) 안전 표준을 보장해 시민과 정부 기관, 기업을 보호하겠다는 내용의 장문의 행정명령을 10월 30일 발표했다.
이 명령은 정부 기관 내에서 윤리적인 AI 사용에 대한 의도와 함께 AI 안전 및 보안에 대한 6가지 새로운 표준을 확립했습니다. 바이든은 이번 명령이 정부의 ‘안전, 보안, 신뢰, 개방성’ 원칙에 부합한다고 말했다.
AI에 대한 나의 행정 명령은 우리가 무엇을 지지하는지에 대한 증거입니다.
안전, 보안, 신뢰. pic.twitter.com/rmBUQoheKp
— 바이든 대통령 (@POTUS) 2023년 10월 31일
여기에는 “국가 안보, 국가 경제 안보 또는 국가 공중 보건 및 안전에 심각한 위험을 초래하는 모든 기반 모델”을 개발하는 회사에 대한 안전 테스트 결과를 공무원과 공유하고 “개발 및 사용을 가속화하는 등 포괄적인 의무 사항이 포함됩니다. 개인 정보 보호 기술을 사용합니다.”
그러나 성명서에 수반되는 세부 사항이 부족하여 업계의 많은 사람들은 이것이 어떻게 회사가 최상위 모델을 개발하는 것을 잠재적으로 방해할 수 있는지 궁금해했습니다.
Struck Capital의 창립 파트너이자 AI 투자자인 Adam Struck은 이번 명령이 “모든 산업을 재편할 AI의 잠재력에 대한 심각성”을 보여주는 것이라고 코인텔레그래프에 말했습니다.
그는 또한 개발자의 경우 아직 완전히 개발되지 않은 제품에 대한 가정을 기반으로 법률에 따라 미래의 위험을 예측하는 것이 까다롭다고 지적했습니다.
“이것은 특히 행정 명령이 덜 지시적인 오픈 소스 커뮤니티에서 기업과 개발자에게 확실히 어려운 일입니다.”
그러나 그는 특정 규제 기관의 AI 및 AI 거버넌스 위원회장을 통해 지침을 관리하려는 정부의 의도는 해당 기관 내에서 모델을 구축하는 기업이 해당 기관의 “규제 프레임워크에 대한 긴밀한 이해”를 가져야 함을 의미한다고 말했습니다.
“데이터 규정 준수와 개인 정보 보호, 편견 없는 알고리즘 기반을 계속 중요하게 생각하는 기업은 정부가 편안하게 여기는 패러다임 내에서 운영해야 합니다.”
정부는 이미 출시된 “ai.gov” 웹사이트를 통해 내부적으로 AI를 어떻게 사용하고 있는지에 대한 700개 이상의 사용 사례가 있습니다.
벤처 캐피탈 회사인 Andreessen Horowitz의 일반 파트너인 Martin Casado는 X(이전 트위터)에 AI 분야의 여러 연구원, 학자 및 창립자들과 함께 공개 제한 가능성에 대해 Biden 행정부에 편지를 보냈다고 게시했습니다. 소스 AI.
“우리는 오픈 소스가 소프트웨어를 안전하게 유지하고 독점으로부터 자유로울 수 있는 유일한 방법이라고 굳게 믿습니다. 증폭을 도와주세요”라고 그는 썼다.
1/ 우리는 AI 행정 명령과 오픈 소스 AI 제한 가능성에 관해 바이든 대통령에게 서한을 제출했습니다. 우리는 오픈 소스가 소프트웨어를 안전하게 유지하고 독점으로부터 자유로울 수 있는 유일한 방법이라고 굳게 믿습니다. 증폭을 도와주세요. pic.twitter.com/Mbhu35lWvt
— martin_casado (@martin_casado) 2023년 11월 3일
서신은 특정 AI 모델 유형에 대한 정의에서 행정 명령이 “지나치게 광범위하다”고 말하며 중소기업이 다른 대기업에 필요한 요구 사항에 얽히게 될 것이라는 우려를 표명했습니다.
Gensyn의 운영 책임자인 Jeff Amico도 비슷한 의견을 게시하여 미국의 혁신이 끔찍하다고 말했습니다.
Biden의 AI 행정명령이 발동되었으며 이는 미국 혁신에 끔찍한 일입니다.
다음은 대규모 기존 기업만이 준수할 수 있는 새로운 의무 사항 중 일부입니다. pic.twitter.com/R3Mum6NCq5
— 제프 아미코(@_jamico) 2023년 10월 31일
Struck은 또한 규제 명확성이 “AI 우선 제품을 구축하는 회사에 도움이 될 수 있지만” OpenAI 또는 Anthropic과 같은 “빅 테크”의 목표가 초기 단계 AI와 크게 다르다는 점을 지적하는 것도 중요하다고 말하면서 이 점을 강조했습니다. 스타트업.
“규제 지침이 세계 최대 기업에만 지나치게 우호적이지 않도록 정부와 민간 부문 간의 대화에서 초기 단계 기업의 이해관계가 반영되기를 바랍니다.”
AI 지원 제조 분야의 글로벌 리더인 Nanotronics의 CEO이자 공동 창업자인 Matthew Putman도 이번 명령이 소비자 안전과 AI의 윤리적 발전을 더 넓은 규모로 보장하는 규제 프레임워크의 필요성을 시사한다고 코인텔레그래프에 말했습니다.
“현재 이러한 규제 프레임워크가 어떻게 구현되는지는 규제 기관의 해석과 조치에 달려 있습니다.”라고 그는 말했습니다.
“우리가 암호화폐에서 목격했듯이, 가혹한 제약으로 인해 잠재적으로 혁신적인 애플리케이션의 탐색이 방해를 받았습니다.”
Putman은 AI의 “종말론적” 잠재력에 대한 두려움이 “단기적인 긍정적 영향에 대한 전망에 비해 과장되어 있다”고 말했습니다.
그는 기술 구축에 직접적으로 참여하지 않는 사람들이 대중의 시야 밖에서 일어나고 있는 “진정으로 혁신적인” 응용 프로그램을 관찰하지 않고 가상의 위험에 대한 내러티브를 구성하는 것이 더 쉽다고 말했습니다.
Putman의 말에 따르면 첨단 제조, 생명 공학 및 에너지를 포함한 산업은 수율을 크게 향상시키고 폐기물 및 배출을 줄이는 새로운 자율 공정 제어를 통해 “지속 가능성 혁명을 주도”하고 있습니다.
“이러한 혁신은 새로운 방법을 의도적으로 탐구하지 않았다면 발견되지 않았을 것입니다. 간단히 말해서, AI는 우리를 파괴하기보다는 우리에게 이익을 줄 가능성이 훨씬 더 높습니다.”
행정명령이 아직 신선하고 업계 관계자들이 그 의도를 분석하기 위해 서두르고 있는 가운데, 미국 국립표준기술연구소(National Institute of Standards and Technology)와 상무부는 이미 새로 설립된 인공지능 안전연구소 컨소시엄(Artificial Intelligence Safety Institute Consortium)의 회원 모집을 시작했습니다.