‘인공지능의 대부’ 제프리 힌튼은 걱정스럽다. 이유는 다음과 같습니다.

샌프란시스코(AP) – 제프리 힌튼“인공 지능의 대부”로 알려진 수상 경력이 있는 컴퓨터 과학자인 는 자신의 노력의 결실에 대해 진지하게 다시 생각하고 있습니다..

Hinton은 ChatGPT와 같은 차세대 고성능 챗봇에 필요한 AI 기술을 개척하는 데 도움을 주었습니다.. 그러나 최근 인터뷰에서 그는 확인되지 않은 AI 개발이 인류에게 위험할 수 있다는 우려를 나누기 위해 최근 구글의 고위직을 그만뒀다고 말했습니다.

뷔는 “갑자기 이런 것들이 우리보다 똑똑해질까 하는 생각을 바꿨다”고 말했다. MIT Technology Review와의 인터뷰. “나는 그들이 지금 그것에 매우 가깝고 미래에 우리보다 더 똑똑할 것이라고 생각합니다…. 우리는 어떻게 그것을 살아남습니까?”

힌튼만 걱정하는 것이 아닙니다. 마이크로소프트가 지원하는 스타트업 OpenAI가 지난 3월 GPT-4라는 최신 AI 패러다임을 발표한 직후, 1,000명 이상의 연구원과 기술자가 AI 개발을 6개월간 중단할 것을 촉구하는 서한에 서명했습니다. 왜냐하면 그들은 “사회와 인류에 중대한 위험”을 제기하기 때문입니다.

AI와 인류의 미래에 대한 Hinton의 가장 큰 두려움을 살펴보십시오.

신경망에 관한 모든 것

우리 인간의 두뇌는 정보를 조직하고 저장하고 난해한 문제에 대한 해결책을 도출하는 타고난 재능 덕분에 미적분을 풀고, 자동차를 운전하고, “캐스케이드”에서 문자를 추적할 수 있습니다. 우리의 두개골에 채워진 약 860억 개의 뉴런, 그리고 더 중요한 것은 뉴런이 서로 연결하는 100조 개의 연결이 이를 가능하게 합니다.

대조적으로 ChatGPT의 기술은 5000억에서 1조 사이의 연결을 특징으로 한다고 Hinton은 인터뷰에서 말했습니다. 이것이 우리에게 불리한 것처럼 보이지만 Hinton은 OpenAI의 최신 AI 모델인 GPT-4가 어떤 인간보다 “수백 배 더” 알고 있다고 지적합니다. 아마도 그는 그것이 우리보다 “훨씬 더 나은 학습 알고리즘”을 가지고 있어 인지 작업에서 더 효율적이라고 제안합니다.

인공 지능은 실제로 우리보다 더 똑똑할 수 있습니다

연구원들은 인공 신경망을 훈련시키는 데 엄청난 양의 에너지와 데이터가 필요하기 때문에 인공 신경망이 사람보다 새로운 지식을 흡수하고 적용하는 데 훨씬 더 오래 걸린다는 사실을 오랫동안 알아차렸습니다. Hinton은 GPT-4와 같은 시스템이 일단 연구원들이 제대로 교육을 받으면 새로운 것을 매우 빠르게 배울 수 있다는 점에 주목하면서 더 이상 그렇지 않다고 말합니다. 이것은 숙련된 전문 물리학자가 일반 고등학교 과학 학생이 할 수 있는 것보다 훨씬 더 빨리 새로운 실험 결과에 대해 그녀의 두뇌를 감쌀 수 있는 방식과 다르지 않습니다.

이로 인해 Hinton은 AI 시스템이 실제로 우리를 능가할 수 있다는 결론에 도달했습니다. 그는 AI 시스템이 사물을 더 빨리 배울 수 있을 뿐만 아니라 지식 사본을 거의 즉시 서로 공유할 수 있다고 지적했습니다.

“완전히 다른 형태의 지능입니다.”라고 그는 신문에 말했습니다. “새롭고 더 나은 형태의 지능.”

전쟁과 전쟁의 소문

인간보다 똑똑한 AI 시스템은 무엇을 할 수 있습니까? 걱정스러운 가능성 중 하나는 악의적인 개인, 그룹 또는 국가가 단순히 자신의 목적을 위해 그들을 선택할 수 있다는 것입니다. Hinton은 특히 이러한 도구가 선거에 영향을 미치고 심지어 전쟁을 일으키도록 훈련될 수 있다고 우려합니다.

예를 들어, AI 챗봇을 통해 확산되는 선거 허위 정보는 Facebook 및 기타 소셜 미디어 플랫폼을 통해 확산되는 미래 버전의 선거 허위 정보가 될 수 있습니다.

그리고 이것은 단지 시작일 수 있습니다. 힌튼은 기사에서 “푸틴이 우크라이나인을 죽이기 위해 초지능 로봇을 만들지 않을 것이라고 잠시 생각하지 말라”고 말했다. “그는 주저하지 않을 것입니다.”

솔루션 부족

명확하지 않은 것은 러시아와 같은 강대국이 AI 기술을 사용하여 이웃이나 자국민을 통제하는 것을 막을 수 있는 방법입니다. 힌튼은 1997년 화학무기금지협약과 유사한 국제적 합의가 무기화된 AI에 대한 국제적 규칙을 수립하기 위한 좋은 첫 걸음이 될 수 있다고 제안합니다.

화학무기 거래가 2017년과 2018년 피비린내 나는 내전 기간 동안 민간인에 대한 염소와 신경 작용제 사린을 사용한 시리아 공격이 조사관이 발견한 것을 멈추지 않았다는 점도 주목할 가치가 있습니다.