CNBC에서 전한 뉴스이다.
‘인공지능의 대부’로 불리는 제프리 힌튼은 45년 전 인공지능 박사 학위를 취득하고 이 분야에서 가장 존경받는 인물 중 한 명이다.
지난 10년간 힌튼은 구글의 실리콘밸리 본사와 토론토를 오가며 파트타임으로 일했다. 그는 인터넷 대기업을 그만두고 뉴욕타임스와의 인터뷰에서 AI의 잠재적 위협이 이전에 생각했던 것보다 더 빨리 다가올 것이라는 점을 세상에 경고했다.
AI가 30년에서 50년, 혹은 그보다 더 먼 이야기라고 생각했지만 더 이상 그렇게 생각하지 않는다.
2018년 튜링상 수상자로 선정돼 개념적, 공학적 돌파구를 마련한 힌튼은 AI가 일자리를 빼앗을 수 있는 당장의 위험과 일반인들에게 진짜처럼 보이는 가짜 사진, 동영상, 텍스트가 만연해 있다는 점이 위험하다고 꼽았다.
힌튼은 지금 우리가 만들어내는 디지털 지능은 생물학적 지능과는 완전히 다르다고 생각한다고 말했다.
힌튼은 지난해 말 챗봇 ChatGPT가 출시된 이후 그 기술이 유행한 스타트업 OpenAI의 가장 진보된 대규모 언어 모델, 즉 LLM인 GPT-4의 힘을 언급했다. 그는 지금 일어나고 있는 일을 이렇게 설명했다:
만약 1,000명의 디지털 에이전트가 모두 동일한 가중치를 가진 완전한 클론이라면, 한 에이전트가 무언가를 배울때 가중치를 공유하기 때문에 모든 에이전트가 즉시 알 수 있다. 생물학적 에이전트는 이런 일이 불가능하다. 따라서 동일한 디지털 에이전트의 집합체는 개별 생물학적 에이전트보다 훨씬 더 많은 지식을 얻을 수 있다. 그래서 GPT-4는 한 사람보다 훨씬 더 많은 것을 알고 있다.
힌튼은 구글을 그만두기 전부터 경종을 울렸다. 힌튼은 AI가 인류를 멸종시킬 가능성이 어느 정도라고 생각하느냐는 질문에 생각할 수 없는 일은 없으며 내가 말할 수 있는 것은 그것뿐이라고 답했다.
구글 CEO 순다르 피차이(Sundar Pichai)도 공개석상에서 AI의 위험성을 경고했다. 그는 지난달 ’60 Minutes’에서 사회가 다가올 일에 대비하지 못했다고 말했다. 동시에 구글은 자체 학습 로봇과 ChatGPT의 라이벌인 바드(Bard) 등 자사 제품을 선보이고 있다.
그러나 ‘변화의 속도가 우리의 적응 능력을 능가할 수 있느냐’는 질문에 대해 피차이는 그 위험을 경시했다. 그는 그런 일은 없을 것 같다며 우리는 어떤 의미에서 무한히 적응할 수 있는 종족이라고 언급했다.
지난 1년 동안 힌튼은 구글에서 근무시간을 줄여왔으며 2022년 3월에는 20%의 풀타임으로 전환했다. 이후 그는 브레인 리서치 내 새로운 팀에 배치됐다. 가장 최근 역할은 구글 브레인 내에서 제프 딘(Jeff Dean)에게 보고하는 부사장 겸 엔지니어링 펠로우였다.
힌튼의 퇴사는 구글의 AI 관련 많은 작업을 지원하는 팀인 구글 브레인(Google Brain)의 주목할 만한 손실이다. 몇 년 전 구글은 2012년 힌튼과 그의 학생 2명이 창업한 회사를 4400만 달러를 들여 인수한 것으로 알려졌다.
그의 연구 그룹은 음성 인식과 사물 분류를 가속화하는 딥러닝에서 큰 혁신을 일으켰다. 그들의 기술은 ChatGPT, Bard 등 AI의 새로운 사용법을 형성하는 데 도움이 될 것이다.
구글은 바드의 기술과 LLM을 더 많은 제품과 서비스에 통합하기 위해 사내 팀을 구성했다. 지난 달 구글은 브레인을 딥마인드와 합병해 AI의 진보를 크게 가속화할 것이라고 발표했다.
타임즈에 따르면, 힌튼은 AI의 위험에 대해 자유롭게 발언할 수 있도록 구글을 떠났다고 한다. 그는 내가 하지 않았다면 다른 누군가가 했을 것이며 스스로를 위로하고 있다.
힌튼은 구글에 어떤 영향을 미치지 않고 AI의 위험성에 대해 이야기할 수 있도록 퇴사했으며 구글은 이에 매우 책임감 있는 행동을 취했다고 말했다.
기사 원문 : CNBC (2023.05.01) <‘Godfather of A.I.’ leaves Google after a decade to warn society of technology he’s touted>
Geoffrey Hinton, known as “The Godfather of AI,” received his Ph.D. in artificial intelligence 45 years ago and has remained one of the most respected voices in the field.
For the past decade Hinton worked part-time at Google, between the company’s Silicon Valley headquarters and Toronto. But he has quit the internet giant, and he told The New York Times that he’ll be warning the world about the potential threat of AI, which he said is coming sooner than he previously thought.
“I thought it was 30 to 50 years or even longer away,” Hinton told the Times, in a story published Monday. “Obviously, I no longer think that.”
Hinton, who was named a 2018 Turing Award winner for conceptual and engineering breakthroughs, said he now has some regrets over his life’s work, the Times reported. He cited the near-term risks of AI taking jobs, and the proliferation of fake photos, videos and text that appear real to the average person.
In a statement to CNBC, Hinton said, “I now think the digital intelligences we are creating are very different from biological intelligences.”
Hinton referenced the power of GPT-4, the most-advanced large language model, or LLM, from startup OpenAI, whose technology has gone viral since the chatbot ChatGPT was launched late last year. Here’s how he described what’s happening now:
“If I have 1,000 digital agents who are all exact clones with identical weights, whenever one agent learns how to do something, all of them immediately know it because they share weights,” Hinton told CNBC. “Biological agents cannot do this. So collections of identical digital agents can acquire hugely more knowledge than any individual biological agent. That is why GPT-4 knows hugely more than any one person.”
Hinton was sounding the alarm even before leaving Google. In an interview with CBS News that aired in March, Hinton was asked what he thinks the “chances are of AI just wiping out humanity.” He responded, “It’s not inconceivable. That’s all I’ll say.”
Google CEO Sundar Pichai has also publicly warned of the risks of AI. He told “60 Minutes” last month that society isn’t prepared for what’s coming. At the same time, Google is showing off its own products, such as self-learning robots and Bard, its ChatGPT competitor.
But when asked if “the pace of change can outstrip our ability to adapt,” Pichai downplayed the risk. “I don’t think so. We’re sort of an infinitely adaptable species,” he said.
Over the past year, Hinton has reduced his time at Google, according to an internal document viewed by CNBC. In March 2022, he moved to 20% of full-time. Later in the year he was assigned to a new team within Brain Research. His most recent role was vice president and engineering fellow, reporting to Jeff Dean within Google Brain.
In an emailed statement to CNBC, Dean said he appreciated Hinton for “his decade of contributions at Google.”
“I’ll miss him, and I wish him well!” Dean wrote. “As one of the first companies to publish AI Principles, we remain committed to a responsible approach to AI. We’re continually learning to understand emerging risks while also innovating boldly.”
Hinton’s departure is a high-profile loss for Google Brain, the team behind much of the company’s work in AI. Several years ago, Google reportedly spent $44 million to acquire a company started by Hinton and two of his students in 2012.
His research group made major breakthroughs in deep learning that accelerated speech recognition and object classification. Their technology would help form new ways of using AI, including ChatGPT and Bard.
Google has rallied teams across the company to integrate Bard’s technology and LLMs into more products and services. Last month, the company said it would be merging Brain with DeepMind to “significantly accelerate our progress in AI.”
According to the Times, Hinton said he quit his job at Google so he could freely speak out about the risks of AI. He told the paper, “I console myself with the normal excuse: If I hadn’t done it, somebody else would have.”
Hinton tweeted on Monday, “I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.”
