조 바이든 미국 대통령이 행정부를 발표했다. 주문하다 인공지능(AI) 안전과 보안에 대한 새로운 표준을 10월 30일 제정합니다.
Biden의 명령에는 업계 15개 주요 기업의 AI 안전 약속을 포함하여 이전에 취해진 조치를 구축하고 있다고 명시되어 있습니다. 새로운 표준에는 정부 내 AI의 윤리적 사용 계획, 시민을 위한 개인정보 보호 관행, 소비자 개인정보 보호 조치 등 6가지 주요 사항이 포함되어 있습니다.
첫 번째 표준은 가장 강력한 AI 시스템 개발자가 안전 테스트 결과와 “중요한 정보”를 정부와 공유하도록 요구합니다. 둘째, 국립표준기술원(National Institute of Standards and Technology)은 AI의 안전성, 보안 및 신뢰성을 보장하기 위한 표준화된 도구와 테스트를 개발할 것입니다.
또한 행정부는 새로운 생물학적 합성 심사 기준을 통해 ‘위험한 생물학적 물질’을 조작하기 위한 AI 사용의 위험으로부터 보호하는 것을 목표로 하고 있습니다.
또 다른 표준에는 AI 기반 사기 및 속임수로부터 보호하기 위한 노력이 포함됩니다. AI 생성 콘텐츠를 탐지하고 공식 콘텐츠를 인증하기 위한 표준과 모범 사례가 확립될 것이라고 밝혔습니다.
또한 중요한 소프트웨어의 취약점을 찾아 수정하기 위한 AI 도구를 개발하기 위한 사이버 보안 프로그램을 발전시켜 행정부가 진행 중인 AI 사이버 챌린지를 기반으로 구축할 계획입니다. 마지막으로 AI 보안에 대한 조치를 더욱 지시할 국가 안보 각서 개발을 명령했습니다.
이 명령은 또한 AI의 개인 정보 보호 위험에 대해서도 다루었습니다.
“보호 장치가 없으면 AI는 미국인의 개인 정보를 더욱 위험에 빠뜨릴 수 있습니다. AI를 사용하면 개인 데이터를 더 쉽게 추출, 식별 및 활용할 수 있을 뿐만 아니라 기업이 데이터를 사용하여 AI 시스템을 교육하기 때문에 그렇게 할 인센티브도 높아집니다.”
이에 대해 대통령은 개인 정보 보호 기술 및 기술의 개발 및 연구에 대한 연방 지원을 우선시하기 위해 초당적인 데이터 개인 정보 보호 법안을 의회에 통과시킬 것을 공식적으로 요청했습니다.
미국 공무원들은 또한 AI의 형평성과 시민권 향상에 노력을 집중하고, AI를 책임감 있게 사용하여 소비자에게 혜택을 제공하고, 기타 사회 관련 주제 중에서 기술이 고용 시장에 미치는 영향을 모니터링할 계획입니다.
마지막으로, 이 명령은 전 세계 AI 규제에 참여하기 위한 행정부의 계획을 제시했습니다. 미국은 최근 AI 개발자를 위한 자발적 행동강령에 합의한 7개 G7 국가 중 하나였습니다.
정부 내에서도 “권리와 안전을 보호하고 AI 조달을 개선하며 AI 도입을 강화하기 위한 명확한 기준을 공개하고 관련 분야 전 직원을 대상으로 AI 교육을 제공할 계획”이라고 밝혔다.
지난 7월 미국 상원의원들은 백악관에서 기밀 회의를 열어 기술 규정을 논의했고, 상원은 업계 최고 AI 전문가들의 의견을 듣기 위해 일련의 ‘AI 인사이트 포럼’을 개최했습니다.