우리는 머스크 블랙 오픈 ai 에 적합하지 않습니다.

작성자/장

편집/장남

설계/부서장

엘론 머스크 (Elon) 와 OpenAI (Openai) 의 현 CEO 인 샘 오트만 (Sam Ottman) 간의 불화는 5 년 전에 시작되었다.

최근 ChatGPT 의 열기로 머스크 또 옛일이 되풀이되고 있다.

그는 트위터에서 "내가 65438+ 억 달러를 기부한 비영리 단체가 어떻게 시가가 300 억 달러인 영리 조직이 되었는지 아직도 모르겠다" 고 말했다. 만약 이것이 합법적이라면, 왜 다른 사람들은 그렇게 하지 않습니까? "

오트만은 지난 3 월 25 일 MIT 인공지능 연구원인 렉스 프리드먼과의 인터뷰를 받았다. 렉스도 온라인 유명인 팟캐스트입니다.

인터뷰는 거의 2 시간 반 동안 계속되었고, 오트만은 오픈소스에서 폐쇄원까지, 비영리단체에서 영리조직으로의 전환에 대한 머스크 포격에 정면으로 대응했다.

그는 말했다: "나는 그가 AGI (인공공통지능) 의 안전에 대해 깊이 긴장하고 있다고 믿는다. 이것은 이해할 수 있지만, 나는 그도 다른 동기가 있다고 믿는다 ... 어려서부터 크게, 나는 줄곧 머스크 을 우상으로 삼았다. 그는 트위터에서 나쁜 놈처럼 행동했지만, 나는 여전히 이 세상에 그와 같은 사람이 있다는 것을 기쁘게 생각한다. 나는 그가 우리가 이 일을 잘 하기 위해 한 노력을 더 많이 볼 수 있기를 바란다. 어쩌면 내가 반격해야 할지도 모르지만, 나중에 그럴지도 모르지만, 이것은 나의 정상적인 방법이 아니다. "

머스크 비아르 트만 14 세. 20 15 년 2 월 1 일 OpenAI 설립 당시 그는 1 억 달러를 기부했다. 당시 그는 1 억 달러를 투자하겠다고 약속했고, PayPal 공동 설립자인 피터 티레와 전직 Y Combinator 회장의 오트만과 함께 투자했다.

현재 오트만은 Y Combinator 사장을 퇴임하고 있으며, 그는 20 18 정도에 OpenAI 를 맡고 있다.

흥미롭게도 영위다 창업자 황인훈은 지난 20 16 년 8 월 OpenAI 에 영위다가 만든 최초의 슈퍼컴퓨팅 DGX- 1 을 기증했는데 당시 증인들은 머스크 포함이었다.

이 슈퍼컴퓨터 DGX- 1 은 황인훈의 말로 3000 명 3 년 만에 개발한 최초의 경량 소형 슈퍼컴퓨터로 250 대의 기존 서버에 해당하는 컴퓨팅 및 처리 능력을 갖추고 있다. 당시 그는 100 여개 회사의 주문서를 손에 들고 있었지만 첫 집을 OpenAI 에 기부했다.

20 15 에서 20 18 까지 OpenAI 는 인간의 사고, 학습 및 추리력을 갖춘 기계 AGI 를 만드는 것을 목표로 하는 비영리 조직으로 포지셔닝되었습니다. 그들의 목적은 세계를 통치하는 것이 아니라 기술이 안전하게 발전하여 그 이익이 전 세계에 동등하게 분배되기를 바라는 것이다.

"우리는 우리 자신의 이익보다는 모든 일반인의 이익을 우선시하는 선도적인 연구 기관이 필요하다. 우리는 연구원들이 논문, 블로그 문장, 코드 등 그들의 작품을 발표하도록 독려한다. 우리의 특허 (있는 경우) 는 전 세계와 공유될 것이다. " 이것은 당시 OpenAI 의 초심이었다.

20 18 이 끝나기 전 OpenAI 는 오픈 소스, 투명성, 공유를 장려했습니다. 당시 주요 상대는 DeepMind 였다. 이 인공지능 실험실은 OpenAI 보다 5 년 일찍 설립되어 20 14 년 구글에 인수되었다. 그 자금력은 당시 OpenAI 보다 훨씬 높았다.

의견 차이

대부분의 미국인들에게 OpenAI 는 2009 년 2 월 19 일에 ChatGPT-2 를 발표했다는 소식을 처음 들었습니다. 우리 중국인들에게 ChatGPT 는 최근에 공개되었던 것 같다.

그날 실험실은 버튼을 누르면 설득력 있는 논문과 문장 모델을 만들 수 있다는 인상적인 발견을 발표했다. 반지왕', 문장을 하나 주면, 그것은 같은 방식으로 조금씩 보내질 것이다. (윌리엄 셰익스피어, 햄릿, 지혜명언)

OpenAI 조직의 성격 변화는 20 18 년 4 월에 시작되었고, 실험실은 헌장을 발표했다. 헌장은 실험실의 핵심 가치관을 다시 기술하여 교묘하게 원래의 견해를 바꾸었다. 인공지능이나 AGI 를 이용해 인간을 해치거나 부당하게 권력을 집중시키겠다는 약속 외에도 헌장은 이번에도 자원의 필요성을 강조했다.

우리는 우리의 사명을 완수하기 위해 대량의 자원을 동원해야 한다. "회사 헌장은" 그러나 직원과 이해 관계자 간의 이해 상충과 광범위한 이익을 최소화하기 위해 항상 노력할 것 "이라고 썼다.

하지만 올해 대중과 대부분의 직원들은 OpenAI 의 조용한 변화를 의식하지 못했다. 머스크 때 OpenAI 를 탈퇴하기로 했다. 아마도 그 당시, 그는 이미 마이크로소프트의 투자 소식을 알고 있었을 것이다. 그는 쌍방의 가치관이 다를 것이라고 생각한다.

OpenAI 를 탈퇴한 후, 그는 기부를 계속하지 않고, 다른 난로를 일으켜 자신의 AGI R&D 팀을 설립했다.

OpenAI 의 실제 구조적 변화는 2065438+2009 년 3 월에 발생했다. 더 이상 순수 비영리단체가 아닙니다. 실험실은 영리조직이 되고, 투자자에 대한 수익을 100 배로 제한하는' 천장 이익' 이 있습니다. 하지만 조직 구조적으로는 완전한 영리조직이 아닙니다. OpenAI 는 비영리 단체의 이사회가 감독하기 때문입니다.

그 후 얼마 지나지 않아 OpenAI 는 Microsoft 65,438+0 억 달러의 투자를 받았다고 발표했지만, 양측이 투자가 현금인지 Microsoft Azure 플랫폼 Azure 인지에 대한 할인도 밝히지 않았다.

오트만은 이 기간 동안 OpenAI 의 CEO 가 되었다. 이번에 머스크 (WHO) 는 트위터에서 OpenAI 의 조직적 성격을 다시 한 번 비판했지만, 5 년 전 불만의 연속에 불과했다.

왜 비영리부터 영리까지?

OpenAI 의 사무실은 샌프란시스코 18 거리와 포르섬 거리의 교차로에서 신비로운 창고처럼 보입니다. 이 역사적인 건물에는 단조로운 회색 패널과 컬러 창문이 있어 대부분의 커튼이 내려왔다. 글자' 선봉건물' 은 그 전 주인 선봉트럭 공장의 유적을 보여준다.

사무실 내부는 공간이 밝고 투명하다. 1 층에는 몇 개의 공공 구역과 두 개의 회의실이 있다. 대형 회의에 적합한 "우주 로밍" 입니다. 또 다른 방은' 무한농담' 이라는 미화된 전화 부스와 더 비슷하다.

3 년 전' MIT 테크놀로지 리뷰' 의 기고가인 캐런 호 (Karen Hao) 가 이 회사를 심도 있게 인터뷰한 적이 있다. 당시 그녀는 1 층에서만 활동할 수 있었고, 2 층과 3 층은 모두 금지구역이었고, 기밀로 유지되었다. 이 두 층은 직원의 사무실 구역이자 로봇이 배치되는 곳이다.

카렌은 1 층에서 OpenAI 의 공동 설립자이자 Met Karen Brockman 을 만났다. 그녀는 문장 중에 "그는 긴장하고 경각해 보인다" 고 썼다. 그는 캐주얼웨어를 입고 OpenAI 의 많은 사람들처럼 불규칙한 헤어스타일을 하고 있어 효율적이고 단순한 마음가짐을 보여 주는 것 같다.

OpenAI 핵심 팀 멤버 Greg Brockman 사진)/두 번째 줄 π

Brockman 은 팀이 AGI 의 추세를 연구할 때 비영리 단체의 성격을 유지하는 것이 자금의 지속가능성에 있어서는 불가능하다는 것을 깨달았다고 말했다. 이 분야의 다른 경쟁업체들이 획기적인 성과를 달성하기 위해 사용하는 컴퓨팅 자원은 3.4 개월마다 두 배로 늘어났으며, 이는 이러한 기하급수적인 성장을 맞추거나 능가하기에 충분한 자본이 필요합니다. 이를 위해서는 자금을 빠르게 축적할 수 있을 뿐만 아니라 사명에 어느 정도 충실할 수 있는 새로운 조직 모델이 필요하다.

2065438+2009 년 4 월의 이러한 변화는 OpenAI 가 사명을 어겼다는 비난을 불러일으켰다.

성명이 발표된 지 얼마 되지 않아 AGI 관련 포럼의 한 게시물에서 한 사용자가 65,438+000 배의 제한이 어떻게 제한되는지 물었다. "구글의 초기 투자자들은 약 20 배의 자본 수익률을 달성했다" 고 그들은 적었다. "구글보다 수익률이 몇 배나 높은 회사 구조를 가질 수 있을까요? 동시에, 당신은' 과도한 권력 집중' 을 원하지 않는다고 말합니까? 어떻게 작동할까요? 자원의 집중이 아니라면 권력이란 무엇인가? 클릭합니다

이 행동은 또한 많은 직원들을 불편하게 했고, 그들은 비슷한 우려를 표명했다.

브로크만은 이렇게 말합니다. "회사 전체가 일련의 원칙과 가치관을 받아들이도록 직원들과 내부 반복을 하는 데 오랜 시간이 걸렸습니다. 즉, 구조를 변경하더라도 우리는 그대로 유지되어야 합니다. (데이비드 아셀, Northern Exposure (미국 TV 드라마), 예술명언)."

20 19 년 여름, 이익 천장 모델 및 Microsoft 투자 10 억 달러로 전환한 후 몇 주 동안 경영진은 이러한 업데이트가 OpenAI 의 연구 방법을 기능적으로 변경하지 않을 것이라고 직원들에게 보증했습니다. 마이크로소프트와 실험실의 가치관은 매우 일치하며, 어떠한 상업화 노력도 아득히 멀고, 기초문제를 찾는 것은 여전히 일의 핵심이 될 것이다.

한동안, 이 보증들은 옳은 것 같고, 프로젝트는 평소와 같이 진행된다. 많은 직원들은 OpenAI 가 Microsoft 에 어떤 약속을 했는지도 모른다.

하지만 2020 년 초에는 OpenAI 상용화에 대한 압력이 커지고 돈벌이가 더 이상 멀지 않았다. 오트만은 2020 년 실험실에 대한 그의 비전을 직원들과 사적으로 공유할 때 OpenAI 가 연구를 위해 돈을 벌어야 한다는 분명한 메시지를 전달했다.

경영진은 이것이 힘들지만 필요한 균형이라고 말했다. 부유한 자선 기부자가 부족하기 때문에, 그것은 어쩔 수 없이 이런 취사를 해야 한다.

하지만 배후의 진정한 이유는 OpenAI 가 직면한 이런 취사, 자금 압박뿐만 아니라 전략적 선택도 있기 때문이다. OpenAI 는 다른 사람들보다 먼저 AGI 에 도착하려고 시도했다.

이런 스트레스는 그것이 원래의 의도에서 점점 멀어지는 것처럼 보이는 결정을 내리도록 강요한다. 자금과 인재를 끌어들이는 과정에서, 그것은 투기하는 경향이 있고, 우세를 유지하기 위해 자신의 연구를 보호하고, 대량의 계산량을 실천하는 전략이다. AGI 로 가는 필수로 여겨지기 때문이 아니라, 그것이 가장 빠른 것 같기 때문이다.

202 1 년, 마이크로소프트가 재투자하여 이번에 10 억 달러에 달했다. 따라서 Microsoft 는 OpenAI 의 독점 클라우드 서비스 공급업체로 자리매김했습니다. 2023 년에 Microsoft 는 OpenAI 와의 협력이 이미 3 단계에 진입했다고 공식 발표했다.

이 문장 은 처음에' 자동차 상업 평론' 에 의해 발표되었다

전재나 콘텐츠 협력, 설명에 연락 주세요.

불법 전재는 조사될 것이다.