구글이 인공 지능 시스템에 내장된 편견을 비판한 2명의 연구원을 해고한 지 2년도 채 되지 않아 회사는 컴퓨터 칩을 만드는 데 사용되는 특수 유형의 인공 지능의 능력에 대해 발표한 논문에 의문을 제기한 연구원을 해고했습니다.
연구원인 Satrajit Chatterjee는 과학자 팀을 이끌고 유명한 도전 과제에 도전했습니다. 연구 논문작년에 과학 저널 네이처에 실린 논문에서 컴퓨터는 컴퓨터 칩의 특정 부분을 인간보다 빠르고 더 잘 설계할 수 있다고 말했습니다.
43세의 채터지 박사는 구글이 네이처의 주장 중 일부를 반박하는 논문을 발표하지 않을 것이라고 그의 팀에 말한 직후 해고됐다. 문제. Google은 서면 성명에서 Chatterjee 박사가 “이유로 해고되었습니다”라고 확인했습니다.
Google은 Chatterjee 박사의 해고에 대해 자세히 설명하는 것을 거부했지만 그가 비판한 연구와 그의 평가를 게시하는 것을 꺼리는 연구에 대해 전면적인 변론을 제공했습니다.
구글 리서치(Google Research)의 부사장인 주빈 가라마니(Zoubin Ghahramani)는 서면 성명을 통해 “우리는 원래 네이처 논문을 철저히 조사했으며 동료 심사 결과를 지지한다”고 말했다. “우리는 또한 후속 제출의 기술적 주장을 엄격하게 조사했지만 게시 기준을 충족하지 못했습니다.”
Chatterjee 박사의 해고는 회사의 미래의 열쇠로 여겨지는 AI 연구 그룹인 Google Brain 내부와 주변의 불화의 가장 최근 사례였습니다. 최고의 연구원을 고용하고 새로운 종류의 컴퓨터 자동화를 만드는 데 수십억 달러를 지출한 후 Google은 이러한 기술을 구축, 사용 및 묘사하는 방법에 대한 다양한 불만과 씨름했습니다.
Google의 AI 연구원들 사이의 긴장은 기술 산업 전반에 걸쳐 훨씬 더 큰 투쟁을 반영하고 있으며, 새로운 AI 기술과 이러한 기술과 이를 구축하는 사람들을 얽힌 가시적인 사회적 문제에 대한 무수한 질문에 직면하고 있습니다.
인공 지능에 대해 자세히 알아보기
최근의 분쟁은 또한 Google의 AI 연구원들 사이에서 해고와 결투 주장의 잘못된 패턴에 따른 것입니다. 이는 모든 일에 인공 지능을 주입하는 데 미래를 걸고 있는 회사에 대한 우려가 커지고 있습니다. 구글의 모회사 알파벳의 CEO인 순다르 피차이는 인공지능을 전기나 불의 도래에 비유하며 인류의 가장 중요한 노력 중 하나라고 불렀다.
Google Brain은 10여 년 전에 한 그룹의 연구원들이 YouTube 동영상에서 고양이를 인식하는 방법을 학습하는 시스템을 구축했을 때 부수적인 프로젝트로 시작했습니다. Google 경영진은 기계가 스스로 기술을 배울 수 있다는 기대에 사로잡혀 빠르게 연구소를 확장하여 이 새로운 인공 지능으로 회사를 재건할 기반을 마련했습니다. 연구 그룹은 회사의 가장 큰 야망의 상징이 되었습니다.
그녀가 해고되기 전에 Gebru 박사는 Google에서 구축한 기술을 비롯한 AI 기반 언어 시스템이 책과 웹사이트의 텍스트에서 배운 편향되고 혐오스러운 언어를 어떻게 사용하게 되는지에 대한 연구 논문을 게시할 수 있는 허가를 구했습니다. Gebru 박사는 Google이 논문 게재를 거부하는 것을 포함하여 이러한 불만에 대한 Google의 대응에 점점 화가 났다고 말했습니다.
몇 달 후 회사는 다른 팀장인 Margaret Mitchell을 해고했습니다. Margaret Mitchell은 Google이 Gebru 박사와 함께 상황을 처리하는 것을 공개적으로 비난했습니다. 회사는 Mitchell 박사가 행동 강령을 위반했다고 말했습니다.
지난 6월에 네이처에 게재된 논문은 강화 학습이라는 기술을 홍보했는데, 이 기술이 컴퓨터 칩의 설계를 개선할 수 있다고 밝혔습니다. 이 기술은 인공 지능을 위한 돌파구이자 칩 설계에 대한 기존 접근 방식을 크게 개선한 것으로 환영받았습니다. 구글은 인공지능 컴퓨팅을 위한 자체 칩을 개발하기 위해 이 기술을 사용했다고 말했다.
Google은 수년 동안 기계 학습 기술을 칩 설계에 적용하기 위해 노력해 왔으며 유사한 종이 1년 전. 그 무렵 구글은 캘리포니아 대학교 버클리에서 컴퓨터 공학 박사 학위를 갖고 인텔에서 연구원으로 일한 채터지 박사에게 이 접근 방식을 칩 설계 회사에 판매하거나 라이선스할 수 있는지 알아보도록 요청했습니다. , 그 문제에 정통한 사람들이 말했다.
그러나 Chatterjee 박사는 내부 이메일에서 해당 논문의 주장 중 일부에 대해 유의를 표했으며 해당 기술이 엄격하게 테스트되었는지 여부에 대해 질문했다고 3명의 사람들이 말했습니다.
그 연구에 대한 논쟁이 계속되는 동안 Google은 네이처에 또 다른 논문을 발표했습니다. 제출을 위해 Google은 이전 논문을 약간 수정하고 Chatterjee 박사와 긴밀히 협력했으며 논문의 주요 주장에 대해 우려를 표명한 두 저자의 이름을 삭제했다고 사람들이 말했습니다.
새로운 논문이 발표되었을 때 일부 Google 연구원들은 놀랐습니다. 그들은 대부분의 AI 노력을 감독하는 회사의 수석 부사장인 Jeff Dean이 Gebru 박사의 해고 여파로 필요하다고 말한 출판 승인 절차를 따르지 않았다고 사람들이 말했습니다.
Google과 동료 컴퓨터 과학자인 Azalia Mirhoseini와 함께 이 보고서를 작성한 두 명의 수석 저자 중 한 명인 Anna Goldie는 이전 논문의 변경 사항이 전체 승인 프로세스를 필요로 하지 않는다고 말했습니다. Google은 Chatterjee 박사와 소수의 내부 및 외부 연구원이 일부 주장에 이의를 제기하는 논문을 작성하도록 허용했습니다.
팀은 출판 승인을 위해 이른바 해결 위원회에 반박 논문을 제출했습니다. 몇 달 후, 그 논문은 거부되었습니다.
반박 논문을 연구한 연구원들은 이 문제를 피차이와 알파벳의 이사회에 보고하고 싶다고 말했습니다. 그들은 반론을 게시하지 않기로 한 Google의 결정이 자체적으로 위반했다고 주장했습니다. AI 원칙, 높은 수준의 과학적 우수성을 유지하는 것을 포함합니다. 얼마 지나지 않아 채터지 박사는 자신이 더 이상 직원이 아니라는 소식을 들었다고 사람들은 말했습니다.
Goldie는 Chatterjee 박사가 2019년에 프로젝트 관리를 요청했지만 거절했다고 말했습니다. 그가 나중에 그것을 비판했을 때, 그녀는 자신의 불만을 입증할 수 없었고 그들이 응답으로 제시한 증거를 무시했다고 말했습니다.
Goldie는 서면 성명에서 “Sat Chatterjee는 2년 넘게 나와 Azalia에 대해 잘못된 정보를 제공하는 캠페인을 벌였습니다.
그녀는 이 작업이 가장 권위 있는 과학 출판물 중 하나인 네이처(Nature)의 동료 심사를 받았다고 말했습니다. 그리고 그녀는 구글이 새로운 칩을 만들기 위해 그들의 방법을 사용했으며 이 칩이 현재 구글의 컴퓨터 데이터 센터에서 사용되고 있다고 덧붙였다.
Chatterjee 박사의 변호사인 Laurie M. Burgess는 “Nature 논문의 특정 저자들이 단순히 과학적 투명성을 추구한다는 이유로 Chatterjee 박사의 명예를 훼손하고 공격함으로써 과학적 토론을 중단시키려 하고 있다”고 말했습니다. Burgess는 또한 Nature 논문의 20명의 공동 저자 중 한 명인 Dr. Dean의 리더십에 의문을 제기했습니다.
Burgess는 “Jeff Dean이 자신이 선호하는 가설을 뒷받침하는 데이터뿐만 아니라 모든 관련 실험 데이터의 공개를 억제하는 행동은 과학계와 Google 서비스와 제품을 소비하는 광범위한 커뮤니티 모두에 깊은 고민거리가 될 것입니다.”라고 말했습니다.
딘 박사는 논평 요청에 응답하지 않았다.
반박 논문이 구글 외부의 학계 및 기타 전문가들과 공유된 후 논란은 칩 설계를 전문으로 하는 연구원들의 글로벌 커뮤니티로 퍼졌다.
칩 제조업체 Nvidia는 Google과 유사한 칩 설계 방법을 사용했다고 밝혔지만 일부 전문가들은 Google의 연구가 대규모 기술 산업에 의미하는 바가 무엇인지 확신하지 못합니다.
독일 드레스덴 공과대학(Dresden University of Technology) 교수인 옌스 리니히(Jens Lienig)는 구글 논문에 기술된 AI 기술을 언급하며 “이것이 정말 잘 작동한다면 정말 대단한 일이 될 것”이라고 말했다. “그러나 그것이 효과가 있는지 여부는 분명하지 않습니다.”
