런던 — 유럽의 국회의원들은 수요일에 세계 최초의 종합 규칙 세트에 서명했습니다. 인공 지능전 세계의 당국이 AI를 통제하기 위해 경쟁하면서 핵심 장애물을 제거했습니다.
유럽 의회 투표는 규칙이 법으로 제정되기 전 마지막 단계 중 하나이며, 이는 유사한 규정에 대해 작업하는 다른 장소의 모델 역할을 할 수 있습니다.
ChatGPT와 같은 챗봇의 급속한 발전이 새로운 기술이 가져올 수 있는 이점과 그것이 제기하는 새로운 위험을 보여주면서 AI를 위한 가드레일을 작성하기 위한 브뤼셀의 수년간의 노력은 더욱 시급해졌습니다.
다음은 EU의 인공지능법(Artificial Intelligence Act)을 살펴보겠습니다.
규칙은 어떻게 작동합니까?
2021년에 처음 제안된 이 조치는 인공 지능 시스템을 사용하는 모든 제품 또는 서비스에 적용됩니다. 이 법안은 AI 시스템을 최소에서 허용 불가까지 4가지 위험 수준에 따라 분류합니다.
어린이를 대상으로 하는 고용 또는 기술과 같은 더 위험한 응용 프로그램은 더 투명하고 정확한 데이터를 사용하는 등 더 까다로운 요구 사항에 직면하게 됩니다.
이 규칙을 시행하는 것은 EU의 27개 회원국에 달려 있습니다. 규제 기관은 회사가 시장에서 앱을 철회하도록 강제할 수 있습니다.
극단적인 경우 위반 시 최대 3,000만 유로(3,300만 달러) 또는 회사 연간 글로벌 수익의 6%에 해당하는 벌금이 부과될 수 있으며, Google 및 Microsoft와 같은 기술 회사의 경우 수십억 달러에 달할 수 있습니다.
위험은 무엇입니까?
EU의 주요 목표 중 하나는 건강과 안전에 대한 AI 위협으로부터 보호하고 기본권과 가치를 보호하는 것입니다.
즉, 일부 AI 사용은 행동에 따라 사람들을 판단하는 “소셜 스코어링” 시스템과 같이 절대적으로 금지됩니다.
또한 어린이를 포함한 취약한 사람들을 착취하거나 위험한 행동을 조장하는 대화형 말하는 장난감과 같이 해를 입힐 수 있는 잠재적인 조작을 사용하는 AI도 금지됩니다.
누가 범죄를 저지를지 예측하기 위해 데이터를 처리하는 예측 치안 도구도 사라졌습니다.
국회의원들은 공개적으로 실시간 원격 안면 인식 및 생체 인식에 대한 금지를 확대함으로써 EU 집행 기관인 유럽 위원회의 원래 제안을 강화했습니다. 이 기술은 행인을 스캔하고 AI를 사용하여 얼굴이나 기타 신체적 특성을 데이터베이스와 일치시킵니다.
실종 아동 찾기 또는 테러 위협 방지와 같은 법 집행 예외를 허용하는 논쟁적인 수정안은 통과되지 않았습니다.
고용 및 교육과 같은 범주에서 사용되는 AI 시스템은 사람의 삶의 과정에 영향을 미치며 사용자에게 투명하고 알고리즘의 편견 위험을 평가하고 줄이기 위한 조치를 취하는 것과 같은 까다로운 요구 사항에 직면합니다.
비디오 게임이나 스팸 필터와 같은 대부분의 AI 시스템은 위험이 낮거나 없는 범주에 속한다고 위원회는 말합니다.
CHATGPT는 어떻습니까?
원래 측정에서는 주로 사용자가 기계와 상호 작용하고 있음을 알 수 있도록 챗봇에 레이블을 지정하도록 요구하여 챗봇에 대해 거의 언급하지 않았습니다. 나중에 협상가들은 인기가 폭발적으로 증가한 후 ChatGPT와 같은 범용 AI를 다루는 조항을 추가하여 해당 기술에 고위험 시스템과 동일한 요구 사항을 적용했습니다.
한 가지 중요한 추가 사항은 인간 작업과 유사한 텍스트, 이미지, 비디오 및 음악을 생성하는 방법을 AI 시스템에 가르치는 데 사용되는 모든 저작권 자료를 철저하게 문서화해야 한다는 요구 사항입니다.
이를 통해 콘텐츠 제작자는 블로그 게시물, 디지털 책, 과학 기사 또는 노래가 ChatGPT와 같은 시스템을 구동하는 알고리즘을 훈련하는 데 사용되었는지 알 수 있습니다. 그런 다음 그들은 자신의 저작물이 복사되었는지 여부를 결정하고 보상을 요청할 수 있습니다.
EU 규칙이 중요한 이유는 무엇입니까?
유럽 연합은 최첨단 AI 개발에서 큰 역할을 하지 않습니다. 그 역할은 미국과 중국이 맡는다. 그러나 브뤼셀은 종종 사실상의 글로벌 표준이 되는 경향이 있는 규제로 트렌드를 설정하는 역할을 하고 대형 기술 회사의 힘을 목표로 하는 노력의 선구자가 되었습니다.
4억 5천만 명의 소비자가 있는 EU 단일 시장의 규모는 기업이 지역마다 다른 제품을 개발하는 것보다 규정을 준수하기 더 쉽다고 전문가들은 말합니다.
하지만 단순한 단속이 아니다. 브뤼셀은 AI에 대한 공통 규칙을 정함으로써 사용자들에게 신뢰를 심어 시장을 발전시키려고 노력하고 있습니다.
미국, 싱가포르, 영국과 같은 다른 곳에서는 단지 “지침과 권장 사항”을 제공했을 뿐이기 때문에 “이것이 시행될 수 있는 규제이며 기업이 책임을 져야 한다는 사실은 중요합니다.”라고 기술 전문가이자 수석 연구원인 Kris Shrishak은 말했습니다. 시민 자유를 위한 아일랜드 위원회.
그는 “다른 나라들이 EU 규칙을 채택하고 복사하기를 원할 수도 있다”고 말했다.
다른 사람들은 따라 잡기를하고 있습니다. 2020년에 EU를 탈퇴한 영국은 AI 리더십 자리를 다투고 있습니다. Rishi Sunak 총리는 올 가을 AI 안전에 관한 세계 정상 회의를 주최할 계획입니다.
Sunak은 이번 주 기술 컨퍼런스에서 “영국을 지식인의 고향일 뿐만 아니라 글로벌 AI 안전 규정의 지리적 고향으로 만들고 싶습니다.”라고 말했습니다.
영국 정상회담은 “전 세계의 학계, 기업 및 정부”의 사람들을 모아 “다자간 프레임워크”에 대해 작업할 것이라고 그는 말했습니다.
무엇 향후 계획?
규칙이 완전히 발효되려면 몇 년이 걸릴 수 있습니다. 다음 단계는 회원국, 의회 및 유럽 위원회가 참여하는 3자 협상으로, 문구에 동의하려고 하면 더 많은 변화에 직면할 수 있습니다.
최종 승인은 올해 말까지 예상되며, 기업과 조직이 적응할 수 있는 유예 기간(대개 약 2년)이 뒤따를 것입니다.
AI 법에 대한 작업을 공동 주도하고 있는 유럽 의회의 이탈리아 의원인 Brando Benifei는 생성 AI와 같이 빠르게 진화하는 기술에 대한 규칙을 더 빨리 채택하도록 추진할 것이라고 말했습니다.
법안이 발효되기 전에 공백을 메우기 위해 유럽과 미국은 5월 말 관리들이 몇 주 안에 초안을 작성하고 다른 “같은 생각을 가진 국가”로 확장할 수 있다고 약속한 자발적인 행동 강령을 작성하고 있습니다.
___
이 이야기는 Kris Shrishak의 성 철자가 잘못되었음을 보여주기 위해 수정되었습니다.
