오늘날의 AI 환경은 두려움, 질투, 강렬한 자본주의적 야망으로 거슬러 올라갈 수 있다는 것이 밝혀졌습니다. 구글을 상대로 한 법무부의 독점금지 소송에서 공개된 이메일, 먼저 말하는 ~에 의해 무역에 관심이 있다는 Microsoft 경영진이 Google의 인공 지능 발전에 대해 짜증과 부러움을 표현하는 모습을 보여줍니다. 이로 인해 Windows 제조업체는 이제 없어서는 안 될 파트너인 OpenAI에 초기 투자로 10억 달러를 투자하게 되었습니다.
“OpenAI에 대한 생각”이라는 제목의 대폭 수정된 2019년 이메일 시리즈에서 Microsoft CEO Satya Nadella는 CTO Kevin Scott이 CFO Amy Hood에게 긴 편지를 보냅니다. Nadella는 “내가 이 일을 하려는 이유와 인프라 직원이 이 일을 하도록 보장할 이유를 설명하는 아주 좋은 이메일입니다.”라고 썼습니다.
Scott은 Google의 급속도로 성장하는 AI 기능에 대해 “깊은 우려”를 갖고 있다고 썼습니다. 그는 처음에는 회사의 “흥미로운 게임플레이 게임”을 거부했다고 말했습니다. 아마도 Google의 AlphaGo 모델을 언급한 것 같습니다. 그 중 한 명은 2017년 세계 챔피언인 고커지에(Go Ke Jie)를 꺾었는데, 이는 당시로서는 인상적인 업적이었습니다. (나중에 Google 모델은 이 모델을 뛰어넘어 인간 교육이 전혀 필요하지 않게 되었습니다.)
그러나 Scott은 게임 분야에서 Google의 발전을 무시한 것은 “실수였습니다”라고 말했습니다. “그들이 구축한 모든 인프라를 인수했을 때 [natural language] Scott은 “쉽게 복제할 수 없는 모델이 상황을 더욱 심각하게 받아들이기 시작했습니다.”라고 썼습니다. “모듈식 교육 측면에서 Google과 우리 사이의 모든 역량 격차가 어디에 있는지 이해하려고 더 깊이 파고들면서 저는 매우 걱정했습니다.”
Scott은 문장에서 단어의 의미와 맥락을 해독하는 AI 모델인 Google의 대규모 BERT 모델을 모방하기 위해 Microsoft가 어떻게 고군분투했는지 이야기합니다. Scott은 경쟁사가 만든 인프라의 도약을 비난했지만 Microsoft는 그렇지 않았습니다.
Microsoft의 CTO는 “대형 BERT 모델을 단순히 복제하는 것이 쉽지 않은 것으로 나타났습니다. “모델을 갖추고 있었지만 인프라가 제대로 작동하지 않았기 때문에 모델을 교육하는 데 약 6개월이 걸렸습니다.” “Google은 이보다 최소 6개월 동안 BERT를 보유하고 있었기 때문에 340M 매개변수 모델을 교육하는 기능을 함께 해킹하는 데 1년이 걸렸으며 이를 프로덕션에 적용하고 앞으로 나아갈 방법을 알아냈습니다. 더 광범위하고 흥미로운 모델로.
그는 또한 구글의 지메일 자동완성 기능이 “놀라울 정도로 좋아졌다”며 감탄과 부러움을 표했다. 그는 마이크로소프트가 “경쟁업체보다 몇 년 뒤처져 있다… [machine learning] Volume.” 그는 OpenAI, DeepMind 및 Google Brain의 “흥미로운” 성장에 대해 언급했습니다.
스캇은 마이크로소프트의 기계 학습 팀에 있는 “매우 똑똑한” 사람들을 칭찬했지만 그들의 야망은 억제되었다고 말했습니다. “그러나 각 대규모 팀 내의 핵심 딥 러닝 팀은 매우 작으며 그들의 야망도 제한되어 있습니다. 즉, 우리가 리소스를 제공하기 시작하더라도 작업 규모를 확장하기 위해 여전히 학습 프로세스를 거쳐야 합니다.” 스캇이 썼다. “그리고 우리는 머신러닝 규모 측면에서 경쟁업체보다 몇 년 뒤쳐져 있습니다.”
Hood가 Scott의 관심사는 “내가 왜 이 일을 하길 원하는가”, 즉 OpenAI에 투자하는 것이라고 촉구한 후, 회사는 CEO의 바람을 실행했습니다. Microsoft는 2019년 Sam Altman이 이끄는 스타트업에 10억 달러를 투자했으며 나머지는 빠르게 변화하는 역사입니다. (현재 130억 달러를 투자했습니다.) 그것은 놀라운 일을 하지만 취업 시장을 파괴하겠다고 위협하고 이미 잘못된 정보가 만연한 시대에 설교자들에게 가장 강력한 도구를 제공하는 기술입니다.
