에디터스 다이제스트를 무료로 열어보세요
Financial Times의 편집자인 Rula Khalaf는 이번 주간 뉴스레터에서 자신이 가장 좋아하는 기사를 선정했습니다.
스마트폰에서 대규모 언어 모델을 실행하는 방법에 대한 Apple의 최신 연구는 iPhone 제조업체가 생성 인공 지능 분야에서 실리콘 밸리 경쟁사를 따라잡을 계획이라는 가장 명확한 신호를 제공합니다.
논문 제목은 “눈 깜짝할 사이에 법학석사연구원들은 “현재의 계산 병목 현상에 대한 솔루션”을 제공한다고 썼습니다.
그들의 접근 방식은 “메모리가 제한된 장치에서 LLM에 대한 효율적인 추론을 위한 길을 열어줍니다”라고 그들은 말했습니다. 휴리스틱은 ChatGPT와 같은 애플리케이션을 지원하는 대규모 데이터 저장소인 대규모 언어 모델이 사용자 쿼리에 응답하는 방식을 나타냅니다. 챗봇과 LLM은 일반적으로 iPhone보다 훨씬 더 많은 컴퓨팅 성능을 갖춘 대규모 데이터 센터에서 실행됩니다.
이 연구는 12월 12일에 발표되었지만 AI 연구자들이 자신의 연구 결과를 소개하는 인기 사이트인 Hugging Face 이후 더 많은 주목을 받았습니다. 강조 표시 늦은 수요일. 이것은 이번 달 생성 AI에 관한 Apple의 두 번째 논문이며, Stable Diffusion과 같은 이미지 생성 모델을 맞춤형 칩에서 실행할 수 있도록 하기 위한 이전 움직임을 따릅니다.
카운터포인트 리서치(Counterpoint Research)에 따르면 기기 제조업체와 칩 제조업체는 새로운 AI 기능이 출하량이 약 5% 감소하는 등 10년 만에 최악의 해를 보냈던 스마트폰 시장을 되살리는 데 도움이 되기를 바라고 있습니다.
2011년 최초의 가상 비서 중 하나인 Siri를 출시했음에도 불구하고 Apple은 OpenAI가 챗봇인 ChatGPT를 출시한 다음 해에 실리콘 밸리를 휩쓸었던 생성 AI에 대한 열광의 물결에서 크게 벗어나 있었습니다. AI 커뮤니티의 많은 사람들은 2018년 Google의 AI 최고 경영자인 John Giannandrea를 고용했음에도 불구하고 Apple이 Big Tech 경쟁사에 비해 뒤처져 있다고 보고 있습니다.
마이크로소프트와 구글은 방대한 클라우드 컴퓨팅 플랫폼에서 인터넷을 통해 챗봇과 기타 생성적 AI 서비스를 제공하는 데 주로 초점을 맞춰왔지만, 애플의 연구에 따르면 그들은 대신 아이폰에서 직접 실행할 수 있는 AI에 집중할 것이라고 합니다.
삼성 등 애플의 경쟁사들은 내년에 새로운 형태의 ‘AI 스마트폰’ 출시를 준비하고 있다. 카운터포인트는 2024년에 1억 대 이상의 AI 중심 스마트폰이 출시될 것이며, 2027년까지 새로운 장치의 40%가 이러한 기능을 탑재할 것으로 추정합니다.
세계 최대 모바일 칩 제조사인 퀄컴 CEO 크리스티아노 아몬(Cristiano Amon)은 스마트폰에 인공지능을 도입하면 소비자들에게 완전히 새로운 경험을 선사하고 휴대폰 판매 감소를 반전시킬 것이라고 예측했다.
그는 최근 인터뷰에서 파이낸셜 타임스와의 인터뷰에서 “2024년 초에 AI에 대한 다양한 생성적 사용 사례를 갖춘 하드웨어가 출시되는 것을 보게 될 것”이라고 말했습니다. “이러한 것들이 확장됨에 따라 사용자 경험에 실질적인 변화를 가져오고 스마트폰에 새로운 업그레이드 주기를 창출할 수 있는 잠재력을 가진 새로운 혁신을 가능하게 하기 시작합니다.”
그는 더욱 정교한 가상 비서가 문자 메시지 보내기, 회의 예약 등 사용자의 행동을 예측할 수 있을 뿐만 아니라 새로운 유형의 사진 편집 기술도 가능하게 될 것이라고 덧붙였습니다.
이번 달 Google은 Pixel 스마트폰에서 “기본적으로” 실행될 새로운 Gemini LLM 소프트웨어 버전을 공개했습니다.
개인 기기에서 Google의 ChatGPT 또는 Bard를 지원하는 대규모 AI 모델을 실행하는 것은 엄청난 기술적 과제를 안겨줍니다. 스마트폰에는 데이터 센터에서 사용할 수 있는 대규모 컴퓨팅 리소스와 성능이 부족하기 때문입니다. 이 문제를 해결한다는 것은 AI 보조자가 클라우드에서보다 더 빠르게 응답하고 오프라인에서도 작업할 수 있다는 것을 의미할 수 있습니다.
데이터를 클라우드로 전송하지 않고 개인의 장치에서 문의에 대한 답변을 보장하는 것도 최근 몇 년 동안 Apple의 특징이었던 개인 정보 보호 혜택을 가져올 수 있습니다.
연구원들은 “우리의 실험은 개인용 장치의 추론 효율성을 향상시키기 위해 설계되었습니다.”라고 말했습니다. Apple은 원래 아부다비에 있는 Technology Innovation Institute에서 개발한 오픈 소스 LLM 소프트웨어의 작은 버전인 Falcon 7B를 포함한 모델에 대한 접근 방식을 테스트했습니다.
배터리 구동 장치에서 작동하도록 MBA를 최적화하는 것은 AI 연구자들에게 점점 더 많은 관심을 불러일으키고 있습니다. 학술 논문은 Apple이 제품에 새로운 기능을 추가하려는 의도를 직접적으로 나타내지는 않지만 Apple의 비밀 연구소와 회사의 최신 기술 성과를 엿볼 수 있는 보기 드문 정보를 제공합니다.
Apple 연구원들은 논문의 결론에서 “우리의 연구는 현재의 계산 병목 현상에 대한 해결책을 제공할 뿐만 아니라 향후 연구를 위한 선례를 설정합니다.”라고 썼습니다. “우리는 LLM 학생의 규모와 복잡성이 계속 증가함에 따라 다양한 장치 및 응용 프로그램에서 잠재력을 최대한 활용하려면 이 작업과 같은 접근 방식이 필수적이라고 믿습니다.”
애플은 논평 요청에 즉각 응답하지 않았다.
“재화는 뛰어난 분석 능력을 가진 분석가로, 다양한 주제에 대한 깊은 통찰력을 가지고 있습니다. 그는 창조적인 아이디어를 바탕으로 여러 프로젝트를 주도해왔으며, 좀비 문화에 특별한 애정을 갖고 있습니다. 여행을 사랑하며, 대중 문화에 대한 그의 지식은 깊고 폭넓습니다. 알코올에 대한 그의 취향도 독특합니다.”
