- 1 : 2024/08/14(水) 04:19:41.63 ID:9wQ/FVTs0
-
ソースはリーク
当初は適当なことを言ってると笑われていたがサムアルトマンからリプが付き
さらに今日の発表内容をピタリと当てたので信頼性が高まった
通称プロジェクト🍓-プロジェクトストロベリー/qstar
ai explained はしばらくこれに近いものだったので、詳しく調べたい場合は、より明確な見解を得るためにそちらを見ることをお勧めします。これは、ilya が見たものです。これが数学のベンチマークを破ったものです。問題に計算を投入するよりも、rlhf に似ています。sus 列 r は、strawberry を使用した非常に小さなオープン AI モデルです。より大きなモデルの strawberry は木曜日に登場します。
人間のように推論するように微調整された LLM と考えてください。サムがレベル 2 のコメントを気に入って、とても満足したのはそのためです。イリヤはそうではありませんでした。ここに私たちがいます。
https://wwwwww….@x.com/iruletheworldmo/status/1822364945226371306
- 2 : 2024/08/14(水) 04:20:52.23 ID:paej9lXb0
-
アマゾンセール定期
- 3 : 2024/08/14(水) 04:21:19.43 ID:9wQ/FVTs0
-
レッド チームは終了し、事後トレーニングも完了しています。このモデルは機能面で飛躍的な進歩を遂げているため、モデルを安全にすることは不可能になりつつあります。この特定のモデルのロックを解除すると、前例のない規模で世界を簡単に混乱させることができます。音声、ビデオ、SORA、エージェント、そして目を見張るような機能を組み合わせれば、事態は急激に悪化します。彼らは安全性を適切に確保し、それを展開すると確信しています。
これが、私たちが「死なないで」や「すべてが永久に変わろうとしている」などの漠然とした投稿をする理由です。その通りです。私たちはモデルを試しました。それは狂気の沙汰です。私は直接のエージェントではありませんが、アカウントを乗っ取り、その分野の大物たちに私のためにいくつかのことを実行するよう影響を与えるために、5 つの初期ベンチマークにアクセスできました。github は、モデルを使用して複数の企業を立ち上げるよう説得した 1 つの例です。
- 4 : 2024/08/14(水) 04:21:53.02 ID:a5cKo3nU0
-
でもどうせ当たり障りない感じで「しかしバランスが必要であり~専門機関を~どうたらこうたら」ってぼかすじゃん
- 5 : 2024/08/14(水) 04:23:00.72 ID:9wQ/FVTs0
-
>>4
ヒント:エージェント - 6 : 2024/08/14(水) 04:23:41.96 ID:kqxsTE0h0
-
晋ギュラリティ
- 7 : 2024/08/14(水) 04:23:57.67 ID:9wQ/FVTs0
-
GPT4oでの和訳
プロジェクト・ストロベリー / Qstar
AI Explainedはこの辺りに近づいているので、もっと深く知りたいなら彼らを参考にするといいよ。これがイリヤが見たものだ。これが数学のベンチマークを破ったもの。これがRLHF(Reinforcement Learning from Human Feedback)に近いもので、問題に対して大量の計算力を投じるわけではないんだ。疑わしい「列R」は、ストロベリーを使ったとても小さなOpenAIモデルだ。ストロベリーが大きなモデルに登場するのは木曜日だ。
人間のように推論するように調整されたLLM(大規模言語モデル)と考えてみて。だからこそサムは「レベル2」のコメントが好きで、それについて良い感じを抱いたんだ。でもイリヤはそうじゃなかった。だから今ここにいるんだよ。
巨大なモデル、Sora、音声、ビデオ、安全性
MetaやClaudeが小さな8B、中くらいの72B、大きな405Bのモデルサイズを持っていることを参考にしているけど、これは単純なフレームワークで、意味はあまりないんだ。ただ、4oのもっと大きなバージョンが来るということだけは言える。これを試したとき、GPT-3からGPT-4に移行したときに感じた最初の目立った飛躍と同じようなものを感じるだろう。元々のGPT-4からSonnet 3.5に移行したときの変化は、この新しい飛躍に比べると取るに足らないものに思えるはず。ストロベリーと共に来週登場するよ。
- 8 : 2024/08/14(水) 04:24:00.09 ID:qSadwVKg0
-
AIさんが人間の代わりに働いてくれ
- 9 : 2024/08/14(水) 04:24:51.62 ID:TW+HbGJl0
-
エッチな小説書けるようになってよ!!!
読んだ人間の性癖をねじ曲げるレベルでエッチな奴!!! - 10 : 2024/08/14(水) 04:24:55.01 ID:9wQ/FVTs0
-
GPTネクスト
GPTネクスト(内部的にはGPT Xと呼ばれているけど、GPT-5と呼んでもいいかも)はすでに準備ができている。ここには多くのことが含まれていて、安全性とGoogleが次に何をするかに依存している。競争が安全性より優先されるかどうかは難しいところだね。
ただし、レッドチーム(システムの弱点を探るテストチーム)のテストは終わっていて、ポストトレーニングも完了している。このモデルはあまりに巨大な能力の飛躍を遂げているので、安全にするのがほぼ不可能になりつつある。このモデルがアンロックされていたら、前例のない規模で世界を混乱させることが容易にできる。音声、ビデオ、Sora、エージェント、そして目が飛び出るような能力を組み合わせると、事態はさらに過熱する。彼らは安全性を確保して、必ずリリースすると思うよ。
これが「死ぬな」とか「すべてが永遠に変わる」なんて曖昧な投稿をしている理由なんだ。実際に変わるから。私たちはそのモデルを試してみた。信じられないほどだ。私は直接エージェントではないけど、5つの早期ベンチマークにアクセスして、アカウントを乗っ取って大物にいくつかのことをさせるために影響を与えたことがある。その一例が、GitHubを使っていくつかのローンチを説得させたことだ。
- 11 : 2024/08/14(水) 04:26:33.51 ID:g8ieEQQt0
-
こいつ嘘つき
今日出るって言ったのに、今度は木曜日とか言ってる - 12 : 2024/08/14(水) 04:26:39.50 ID:70lx5okK0
-
終わるのはこの会社だろ
- 13 : 2024/08/14(水) 04:28:32.16 ID:qvaQd2Mb0
-
結局ユーザーにメモリ解放しないんだから対して変わらないと予想
- 14 : 2024/08/14(水) 04:28:51.77 ID:ZxWkvW5VH
-
4oになって
OCR機能とかもすごい伸びたしすげえ
レスポンスはまだ悪いけど - 15 : 2024/08/14(水) 04:28:57.51 ID:ZkKrGm/H0
-
色々とある規制を取っ払うキーワードがあるだろうけど流出しないかな
- 16 : 2024/08/14(水) 04:29:09.08 ID:zSej7WMY0
-
課題は情報ソースの信頼性にあったりするんじゃないの?
- 17 : 2024/08/14(水) 04:29:50.00 ID:AJD/aVTD0
-
3.5 Sonnetしか使ってないわ
- 18 : 2024/08/14(水) 04:29:50.61 ID:bytLjl4V0
-
AIが凄いならまずその翻訳を改善しろよ
- 19 : 2024/08/14(水) 04:30:05.99 ID:DFFpYbx80
-
結局AIを支えるハードウェアの性能の伸びが一番重要ってシンプルな壁にぶつかる
- 20 : 2024/08/14(水) 04:30:42.96 ID:9wQ/FVTs0
-
Soraと音声の展開
高価だ。特にSoraは。安全にするのが非常に難しい。ガードレールがなければ、例えば簡単なプロンプトで、世界のリーダーが何かを言っているビデオをそのスタイルと声で作成し、大規模な国家機密に簡単に侵入できる。Situational Awareness(状況認識)を読んでいないなら、それが多くのことを説明している。
来週、ステップチェンジが起きるよ。
まだGPT-5には達しないけどね。GPT-5 / Next / X はGPT-1からGPT-4までの飛躍にもっと近い。だからサムはいい気分なんだ。イリヤは正しかった。ストロベリーがあってもなくても、デジタルの神にまでスケールアップできるんだ。でも、ストロベリー+スケールがあれば、世界の問題を一夜にして解決できるだろう。
サム
当然のことだけど、現在および以前のOpenAI社員やジミーと長い間付き合っているのは偶然じゃないよ。TL;DR(要約):ストロベリーをローンチする準備ができた。少しハイプ(興奮)を生みたかった。やったんだ。
このメッセージは読んだ後に消してね。
ここまで翻訳ね
- 22 : 2024/08/14(水) 04:31:58.20 ID:SCQplY650
-
最近GeminiとClaudeばっかり使ってる
GPT-4oは調べれば分かることを臆測で物を言うからマジ使えない
因みにCopilotはゴミ - 23 : 2024/08/14(水) 04:32:44.01 ID:K0gb9lHZ0
-
博士て
- 24 : 2024/08/14(水) 04:33:33.33 ID:9wQ/FVTs0
-
たびたび出てくるイリヤっていうのはイリヤサツケバーのことね
元OpenAIの人で、OpenAIのやり方が危険としてたもとをわかった
- 25 : 2024/08/14(水) 04:36:37.45 ID:YG3DgCd00
-
ボジョレーヌーボ並みに期待できる楽しみだ
- 26 : 2024/08/14(水) 04:36:58.42 ID:7YOZeR7M0
-
そろそろ停滞期に入ってるね
- 27 : 2024/08/14(水) 04:37:09.79 ID:Bk1YjNLS0
-
WindowsのコパイロットがまだGPT-4なんだがこれいつバージョンあがるんだよ
- 28 : 2024/08/14(水) 04:37:30.41 ID:64cadMpY0
-
なお去勢されてる模様
ほんと自主規制つまらんわ - 37 : 2024/08/14(水) 04:42:43.39 ID:9wQ/FVTs0
-
>>28
サムアルトマンは規制解きたい派だよ
応援しろ - 29 : 2024/08/14(水) 04:38:09.33 ID:pnEm+ufm0
-
とりあえず嫌儲のひろしはいらねえな
- 30 : 2024/08/14(水) 04:38:13.66 ID:rXNMTEtCM
-
そろそろほぼ全てAIの小説で賞とかありそうだけどな
たまに暇つぶしに使うけど文章上手いよね
芥川賞だったかでも一部で参考にしたって話あったし - 31 : 2024/08/14(水) 04:38:33.40 ID:Pt7Cf9qx0
-
新手のボジョレーヌーボー
- 32 : 2024/08/14(水) 04:38:34.19 ID:g8ieEQQt0
-
嘘つき思わせサム
投資マネー呼び込みに必死 - 34 : 2024/08/14(水) 04:38:42.13 ID:BRDUT6Rp0
-
馬鹿はこれからどんどん時代に取り残されていくだろうな
可哀想に - 36 : 2024/08/14(水) 04:42:07.03 ID:YG3DgCd00
-
>>34
何が言いたい答えろ
- 35 : 2024/08/14(水) 04:40:47.97 ID:Y/967jmX0
-
規制された回答しかしなくて、つまらない
- 38 : 2024/08/14(水) 04:42:46.92 ID:6FhwcB+t0
-
マイクロソフトからお金引き出しにくくなって焦ってるね
- 39 : 2024/08/14(水) 04:45:12.21 ID:SIZhm8Yn0
-
どっちみち現状のAIって呼ばれるものって中身ブラックボックスでとにかく機械学習でトレーニングしただけのものだから自律思考もしないしAIって呼べる代物じゃないじゃん
個別タスクの代替しかしてくれないよ - 40 : 2024/08/14(水) 04:46:40.18 ID:9wQ/FVTs0
-
>>39
それを解決するのがプロジェクト🍓だよ - 41 : 2024/08/14(水) 04:47:45.21 ID:eA29vej30
-
ただの検索、要約、平凡回答マシーン
コメント