런던 — 전 세계 당국은 통제하기 위해 경쟁하고 있습니다. 인공 지능획기적인 법안이 수요일 주요 장애물을 통과하도록 설정된 유럽 연합을 포함하여.
유럽 의회 의원들은 안면 인식에 대한 논란이 많은 수정안을 포함해 이 제안에 대해 투표할 예정입니다.
ChatGPT와 같은 챗봇의 급속한 발전이 새로운 기술이 가져올 수 있는 이점과 그것이 제기하는 새로운 위험을 보여주면서 AI를 위한 가드레일을 작성하기 위한 브뤼셀의 수년간의 노력은 더욱 시급해졌습니다.
다음은 EU의 인공지능법(Artificial Intelligence Act)을 살펴보겠습니다.
규칙은 어떻게 작동합니까?
2021년에 처음 제안된 이 조치는 인공 지능 시스템을 사용하는 모든 제품 또는 서비스에 적용됩니다. 이 법안은 AI 시스템을 최소에서 허용 불가까지 4가지 위험 수준에 따라 분류합니다.
어린이를 대상으로 하는 고용 또는 기술과 같은 더 위험한 응용 프로그램은 더 투명하고 정확한 데이터를 사용하는 등 더 까다로운 요구 사항에 직면하게 됩니다.
위반 시 최대 3,000만 유로(3,300만 달러) 또는 회사의 연간 글로벌 수익의 6%에 해당하는 벌금이 부과되며, Google 및 Microsoft와 같은 기술 회사의 경우 수십억 달러에 달할 수 있습니다.
이 규칙을 시행하는 것은 EU의 27개 회원국에 달려 있습니다.
위험은 무엇입니까?
EU의 주요 목표 중 하나는 건강과 안전에 대한 AI 위협으로부터 보호하고 기본권과 가치를 보호하는 것입니다.
즉, 일부 AI 사용은 행동에 따라 사람들을 판단하는 “소셜 스코어링” 시스템과 같이 절대적으로 금지됩니다.
또한 어린이를 포함한 취약한 사람들을 착취하거나 위험한 행동을 조장하는 대화형 말하는 장난감과 같이 해를 입힐 수 있는 잠재적인 조작을 사용하는 AI도 금지됩니다.
누가 범죄를 저지를지 예측하기 위해 데이터를 처리하는 예측 치안 도구도 사라졌습니다.
의원들은 공공 장소에서 원격 안면 인식 및 생체 인식에 대한 금지를 확대함으로써 EU 집행 기관인 유럽 위원회의 원래 제안을 강화했습니다. 이 기술은 행인을 스캔하고 AI를 사용하여 얼굴이나 기타 신체적 특성을 데이터베이스와 일치시킵니다.
그러나 중도우파 정당이 실종아동 찾기, 중범죄 용의자 식별, 테러 위협 예방 등 법집행 예외를 허용하는 수정안을 추가한 이후 막바지 도전에 직면해 있다.
“우리는 대규모 감시를 원하지 않고, 사회적 점수를 원하지 않으며, 유럽 연합에서 예측 치안을 원하지 않습니다. 그것은 우리가 아니라 중국이 하는 일입니다.
고용 및 교육과 같은 범주에서 사용되는 AI 시스템은 사람의 삶의 과정에 영향을 미치며 사용자에게 투명하고 알고리즘의 편견 위험을 평가하고 줄이기 위한 조치를 취하는 것과 같은 까다로운 요구 사항에 직면합니다.
비디오 게임이나 스팸 필터와 같은 대부분의 AI 시스템은 위험이 낮거나 없는 범주에 속한다고 위원회는 말합니다.
CHATGPT는 어떻습니까?
원래 측정에서는 주로 사용자가 기계와 상호 작용하고 있음을 알 수 있도록 챗봇에 레이블을 지정하도록 요구하여 챗봇에 대해 거의 언급하지 않았습니다. 나중에 협상가들은 인기가 폭발적으로 증가한 후 ChatGPT와 같은 범용 AI를 다루는 조항을 추가하여 해당 기술에 고위험 시스템과 동일한 요구 사항을 적용했습니다.
한 가지 중요한 추가 사항은 인간 작업과 유사한 텍스트, 이미지, 비디오 및 음악을 생성하는 방법을 AI 시스템에 가르치는 데 사용되는 모든 저작권 자료를 철저하게 문서화해야 한다는 요구 사항입니다.
이를 통해 콘텐츠 제작자는 블로그 게시물, 디지털 책, 과학 기사 또는 노래가 ChatGPT와 같은 시스템을 구동하는 알고리즘을 훈련하는 데 사용되었는지 알 수 있습니다. 그런 다음 그들은 자신의 저작물이 복사되었는지 여부를 결정하고 보상을 요청할 수 있습니다.
EU 규칙이 중요한 이유는 무엇입니까?
유럽 연합은 최첨단 AI 개발에서 큰 역할을 하지 않습니다. 그 역할은 미국과 중국이 맡는다. 그러나 브뤼셀은 종종 사실상의 글로벌 표준이 되는 경향이 있는 규정으로 트렌드를 설정하는 역할을 합니다.
4억 5천만 명의 소비자가 있는 EU 단일 시장의 규모는 기업이 지역마다 다른 제품을 개발하는 것보다 규정을 준수하기 더 쉽다고 전문가들은 말합니다.
하지만 단순한 단속이 아니다. 브뤼셀은 AI에 대한 공통 규칙을 정함으로써 사용자들에게 신뢰를 심어 시장을 발전시키려고 노력하고 있습니다.
미국, 싱가포르, 영국과 같은 다른 곳에서는 단지 “지침과 권장 사항”을 제공했을 뿐이기 때문에 “이것이 시행될 수 있는 규제이며 기업이 책임을 져야 한다는 사실은 중요합니다.”라고 기술 전문가이자 수석 연구원인 Kris Shashak은 말했습니다. 시민 자유를 위한 아일랜드 위원회.
그는 “다른 나라들이 EU 규칙을 채택하고 복사하기를 원할 수도 있다”고 말했다.
다른 사람들은 따라 잡기를하고 있습니다. 2020년에 EU를 탈퇴한 영국은 AI 리더십 자리를 다투고 있습니다. Rishi Sunak 총리는 올 가을 AI 안전에 관한 세계 정상 회의를 주최할 계획입니다.
Sunak은 이번 주 기술 컨퍼런스에서 “영국을 지식인의 고향일 뿐만 아니라 글로벌 AI 안전 규정의 지리적 고향으로 만들고 싶습니다.”라고 말했습니다.
영국 정상회담은 “전 세계의 학계, 기업 및 정부”의 사람들을 모아 “다자간 프레임워크”에 대해 작업할 것이라고 그는 말했습니다.
무엇 향후 계획?
규칙이 완전히 발효되려면 몇 년이 걸릴 수 있습니다. 투표에 이어 회원국, 의회 및 유럽 위원회가 참여하는 3자 협상이 진행될 예정이며, 문구에 동의하려고 노력함에 따라 더 많은 변화에 직면할 수 있습니다.
최종 승인은 올해 말까지 예상되며, 기업과 조직이 적응할 수 있는 유예 기간(대개 약 2년)이 뒤따를 것입니다.
법안이 발효되기 전에 공백을 메우기 위해 유럽과 미국은 5월 말 관리들이 몇 주 안에 초안을 작성하고 다른 “같은 생각을 가진 국가”로 확장할 수 있다고 약속한 자발적 행동 강령을 작성하고 있습니다.
