サム・アルトマンは自分が何を作っているか知っているのか？

新しい形のインテリジェンスを作成するという OpenAI CEO の野心的で独創的かつ恐ろしい探求

この記事を聞く

00:00

1:16:18

骨董品に関する話をもっと聞く

4月のある月曜日の朝、サム・アルトマンはOpenAIのサンフランシスコ本社内に座って、彼の会社が開発したが決してリリースする予定のなかった危険な人工知能について私に語った。 彼の従業員は、その危険性を十分に理解せずに、いつかリリースされるかもしれないAIのことを心配して眠れなくなることがよくある、と彼は後に語った。 回転椅子の端にかかとを乗せて、彼はリラックスしているように見えました。 彼の会社が 11 月にリリースした強力な AI は、近年のテクノロジーの歴史の中でかつてないほど世界の想像力を魅了しました。 一部の方面ではChatGPTがまだうまくできないことについて不満を抱いており、また他の方面ではそれが予兆するかもしれないという将来について不満を抱いていたが、アルトマン氏はそれを気にしていなかった。 これは彼にとって勝利の瞬間だった。

この号の詳細をチェックして、次に読む記事を見つけてください。

少量の投与では、アルトマンの大きな青い目は熱心な知的注意の光線を発しますが、大量の投与ではその強さが不安定になる可能性があることを彼は理解しているようです。 この場合、彼は喜んでそれをチャンスにしました。AI の最終的なリスクがどのようなものであることが判明しても、彼は ChatGPT を世界に放り出すことにまったく後悔していないことを私に知ってほしかったのです。 それどころか、彼はそれが素晴らしい公共サービスだったと信じています。

「このままここの建物にこれを建てて、あと5年も続けられたかもしれない。そうすれば、驚くべきものができただろう。」と彼は語った。 しかし、国民はその後の衝撃波に備えることはできなかったはずで、その結末は「想像するのが非常に不快」だと彼は考えている。 アルトマン氏は、人々は、仕事から人間関係まであらゆるものを作り変える前に、間もなく強力な新しい知性体と地球を共有するかもしれないという考えを考慮する時間が必要であると信じている。 ChatGPT は通知を提供する方法でした。

2015 年、アルトマン、イーロン マスク、および数名の著名な AI 研究者は、汎用人工知能 (たとえば、典型的な大学卒業生と同等の知的能力) がついに手の届くところにあると信じて OpenAI を設立しました。 彼らはそれに手を伸ばそうとし、さらにそれ以上のことを望んでいた。彼らは、いかなる人間よりも決定的に優れた知性である超知性を世界に召喚したいと考えていた。 そして、大手テクノロジー企業は自らの目的のために無謀にも最初にそこに到達しようと急ぐかもしれないが、彼らは「人類全体の利益のために」それを安全に実行したいと考えていた。 彼らはOpenAIを非営利団体として組織し、「金銭的利益を生み出す必要性に制約されない」ようにし、研究を透明性をもって実施すると誓った。 ニューメキシコ州の砂漠にある極秘研究所に逃げ込むことはできません。

この記事は、月曜日から金曜日まで、編集者が The Atlantic から 1 つの必読書を推奨するニュースレター、今日読むべき 1 つの物語で紹介されました。 ここから登録してください。

何年もの間、一般の人々は OpenAI についてあまり聞いていませんでした。 報道によれば、マスク氏との権力闘争の末にアルトマン氏が2019年にCEOに就任したとき、それはほとんど話題にならなかった。 OpenAI は、同年に新しい AI に関する論文を含む論文を発表しました。 これはシリコンバレーの技術コミュニティの注目を集めましたが、人々が ChatGPT を使い始めた昨年まで、この技術の可能性は一般の人々には明らかではありませんでした。

現在 ChatGPT に搭載されているエンジンは GPT-4 と呼ばれます。 アルトマンは私にそれを宇宙人の知性だと説明しました。 (意図的に) リアルタイムの熟考を呼び起こす、スタッカートのバーストと短い休止で明晰なエッセイが展開されるのを見て、多くの人が同じように感じたことがあるでしょう。 設立から数か月の間に、独自のフレーバー組み合わせ理論に従って、斬新なカクテルレシピを提案してきました。 無数の大学論文を執筆し、教育者を絶望に陥れた。 さまざまなスタイルで、時にはうまく、常に素早く詩を書きました。 そして統一司法試験に合格しました。 事実誤認はしますが、間違いを魅力的に認めます。 アルトマン氏は、GPT-4 が複雑なコンピューター コードを記述するのを初めて見たとき、その能力は明示的に設計されていなかったときのことを今でも覚えています。 「『ここにいるよ』という感じでした」と彼は語った。