현대 인공지능 분야에서는 모든 길은 캐나다 대학과 인연이 있는 연구자 3명으로 통하는 것 같다.

우선, 토론토 대학에서 가르치는 70세 영국 남성 제프리 힌튼(Jeffrey Hinton)은 인공 지능의 대명사가 된 '딥 러닝'이라는 하위 학문을 창안했습니다. 57세의 프랑스인 양리쿤(Yang Likun)은 1980년대 힌튼 연구소에서 근무했으며 현재 뉴욕대학교에서 가르치고 있다. 세 번째인 54세의 조슈아 벤지오(Joshua Bengio)는 파리에서 태어나 몬트리올에서 자랐으며 현재 몬트리올 대학교에서 가르치고 있습니다.

이 세 사람은 절친한 친구이자 협력자이기 때문에 AI 분야 사람들은 농담으로 그들을 '캐나다 마피아', '딥러닝 빅3'라고 부른다. (처음 두 사람은 하이센에서 볼 수 있다) 빅데이터 위챗 공개(이전 기사에서 소개)

그런데 힌튼은 2013년에 구글로, 양리쿤은 페이스북으로 갔다. 둘 다 학업 상태를 유지했습니다. 하지만 조슈아는 어떤 대기업에도 가지 않았습니다. 그는 세계 최대의 딥 러닝 연구 그룹이자 독립적인 비영리 조직인 MILA(Montreal Institute of Learning Algorithms)를 설립한 후 Turing Award를 수상했습니다.

조슈아 - 학문적 순수주의자

조슈아는 1964년 프랑스 파리에서 태어났습니다. 그는 철저한 학자입니다.

McGill University에서 전기 공학 학사 학위, 컴퓨터 과학 학사 학위, 컴퓨터 과학 박사 학위를 취득했습니다.

그 후 조슈아는 NSERC 장학금을 받아 세계적 수준의 MIT에서 공부를 계속했고 뇌 및 인지과학과에서 박사후 연구원이 되었습니다.

조슈아는 벨 연구소에 입사한 적이 있다(벨 연구소는 1925년 설립 이래 영광스러운 역사를 가지고 있다. 1년 동안 25,000개 이상의 특허를 취득하고 8개의 노벨상을 수상했다.), 조슈아는 학습과 연구에 관한 박사후 연구를 수행했다. 이곳에서 조슈아는 글 서두에서 언급한 '세 대부' 중 한 명인 양리곤을 만나 깊은 우정을 쌓게 됐다. 조슈아는 벨 연구소를 나온 뒤 1993년부터 몬트리올 대학교 컴퓨터과학과 컴퓨팅학과 교수로 재직 중이다. 몬트리올 대학교에 부임한 뒤 자주 거론되는 것은 그의 경험담이 아니다. 그는 교수직을 맡았지만 같은 해 몬트리올 대학교에 학습 알고리즘 연구소-Mila(전체 이름: 몬트리올 학습 알고리즘 연구소)를 설립했습니다.

Mila는 딥 러닝과 강화 학습을 포함하되 이에 국한되지 않는 기계 학습 연구에 중점을 두고 있습니다. 현재(2020년) Mila는 교수진과 학생을 포함하여 약 500명의 연구원을 보유하고 있으며 세계 최대 규모의 딥 러닝 연구 그룹입니다. 동시에 독립적인 비영리 조직으로서 Mila는 많은 AI 회사의 이익도 소유하고 있습니다. . 연구실.

사람들을 가르치고 교육하며 비영리 과학 연구 및 교육 기관을 설립하는 동안 Joshua는 시퀀스 확률 모델도 개발했습니다. 시퀀스의 확률적 모델은 1990년대 신경망 연구의 정점으로 간주되었으며 현대 딥러닝 음성 인식 시스템은 이러한 개념을 확장하고 있습니다. Joshua는 또한 단어 의미를 표현하기 위한 고차원 단어 임베딩과 주의를 도입한 랜드마크 논문인 A Neural Probabilistic Language Model을 저술했습니다. 이는 언어 번역, 질문 응답, 시각적 질문 응답을 포함한 자연어 처리 작업에 큰 영향을 미쳤습니다. .

2010년부터 Joshua의 딥 러닝, 특히 GAN(Generative Adversarial Networks)에 관한 논문은 Ian Goodfellow와 공동으로 개발되어 컴퓨터 비전과 컴퓨터 그래픽에 혁명을 일으켰습니다.

"시퀀스의 확률 모델" "고차원 단어 임베딩 및 주의" "생성적 적대 네트워크" = Turing Award

2019년 Joshua는 2018 ACM AM Turing Award Award를 수상했습니다. 그해에는 다른 두 사람이 영예를 얻었습니다. 누가 될까요? 그렇습니다. 그들은 Jeffrey Hinton과 Yang Likun입니다. 그때부터 세상에는 "AI 대부 3인방"이 있었습니다.