인공 지능의 대부인 제프리 힌튼이 구글을 떠날 때의 위험에 대해 경고했습니다.

인공지능(AI)의 대부로 널리 알려진 한 남자가 이 분야의 발전으로 인한 위험 증가를 경고하며 직장을 그만 두었습니다.

75세의 제프리 힌튼(Jeffrey Hinton)은 뉴욕 타임즈에 보낸 성명에서 구글에서 사임을 발표했으며 이제 자신의 일을 후회한다고 말했습니다.

그는 BBC에 지능형 챗봇의 위험 중 일부는 “매우 무섭다”고 말했다.

“현재 그들은 내가 말할 수 있는 한 우리보다 똑똑하지 않습니다. 하지만 곧 그렇게 될 것이라고 생각합니다.”

딥 러닝 및 신경망에 대한 Hinton 박사의 선구적인 연구는 ChatGPT와 같은 현재 AI 시스템의 길을 열었습니다.

그러나 영국계 캐나다인 인지심리학자이자 컴퓨터 과학자는 BBC에 챗봇이 머지않아 인간 두뇌가 보유한 정보 수준을 능가할 수 있을 것이라고 말했다.

“현재 우리가 보고 있는 것은 GPT-4와 같은 것이 일반 지식의 양에서 사람을 능가하고 사람을 훨씬 능가한다는 것입니다. 추론의 관점에서 보면 그다지 좋지는 않지만 간단합니다. 생각.

“그리고 진행률을 감안할 때 상황이 매우 빠르게 개선될 것으로 예상합니다. 그래서 우리는 그것에 대해 걱정해야 합니다.”

New York Times 기사에서 Dr. Hinton은 “나쁜 일”에 AI를 사용하려는 “나쁜 행위자”를 언급했습니다.

이에 대해 자세히 설명해 달라는 BBC의 질문에 그는 “이것은 최악의 시나리오, 악몽 같은 시나리오일 뿐이다.

“예를 들어 다음과 같은 나쁜 배우를 상상할 수 있습니다. [Russian President Vladimir] 푸틴은 봇이 자신의 하위 대상을 생성할 수 있는 기능을 제공하기로 결정했습니다.

궁극적으로 이것은 “‘나는 더 강력해져야 한다’와 같은 하위 목표를 만들 수 있다”고 과학자는 경고했다.

그는 “우리가 개발하는 지능의 유형은 우리가 가진 지능과 매우 다르다는 결론에 도달했다.

“우리는 생물학적 시스템이고 이들은 디지털 시스템입니다. 큰 차이점은 디지털 시스템의 경우 동일한 무게 세트, 동일한 세계 모델의 사본이 많다는 것입니다.

“그리고 이 모든 클론은 개별적으로 배울 수 있지만 지식을 즉시 공유할 수 있습니다. 따라서 10,000명의 사람이 있고 누군가 무언가를 배울 때마다 모든 사람이 자동으로 그것을 알게 되는 것과 같습니다. 따라서 이 챗봇은 한 사람보다 훨씬 더 많은 것을 알 수 있습니다.”

힌튼 박사는 직장을 그만둔 데에는 몇 가지 다른 이유가 있다고 말했습니다.

“하나는 75세입니다. 이제 은퇴할 시간입니다. 또 하나는 Google에 대해 정말 좋은 말을 하고 싶습니다. Google에서 일하지 않는 것이 더 신뢰할 수 있을 것입니다.”

그는 구글을 비판하고 싶지 않으며 구글이 “매우 책임감 있다”고 강조했다.

구글 수석 과학자 제프 딘(Jeff Dean)은 성명에서 “우리는 AI에 대한 책임 있는 접근 방식에 전념하고 있다. 우리는 대담하게 혁신하는 동시에 새로운 위험을 이해하는 방법을 지속적으로 배우고 있다”고 말했다.