OpenAIの共同設立者が「私たちは間違っていた」と語る、AIの危険性からデータをオープンにしない方針へと大転換 - GIGAZINE

マスク氏が袂を分かった真意は判然としない。

“AIやAGIは信じられないほど強力に◆「数年もすればオープンソース化は賢明でないことが誰の目にも明らかに」”

＞OpenAI共同設立者が「私たちは間違っていた」と語る、AIの危険性からデータをオープンにしない方針へと大転換

OpenAI、あずきバーっぽい名前の人がいるな。

これからAIなしで仕事ができなくなると思いますが、AIが引用している文献はオープンジャーナルが多く間違いも少なからずあります。
フリーでアクセスできない購読型のジャーナルはきちんと自分の目を通し、AIの提示した文献も評価できる必要性が高まる気がします。

メモ

ClosedAIに社名変更しろよｗ

(｡･ω･｡)ﾉ OpenAIの共同設立者が「私たちは間違っていた」と語る、AIの危険性からデータをオープンにしない方 .

確かに悪意持ってAIを作る奴が出てくる可能性はあるのよね。

Googleと同じで秘密主義の路線を走りそうだにゃ

まぁだろうな

なんだかすでに、AIという技術が人間の想像に追い付いたことを知らせているニュースなのかもしれない。

生成系AIと著作権の問題。
ここら辺は作り手として考慮しながら付き合わないといけないね。

サツキヴァー氏
安全性の観点
「これらモデルは非常に強力だが、今後はさらに強力になり、これらのAIを使って他者に多大な損害を与えることが、いとも簡単にできるようになるでしょう。AIの能力が高くなるにつれて、それを公表したくないと思えるようになるのです」

権力が欲しいだけでしょ。潰さなきゃ

ややこしいこら今度からClosedAIって呼ぼ

GPT-4 の扱い 20 世紀の核開発技術みたいな感じなのか

清々しいまでのポジショントークやね
ビジネスできそうになってきたのでビジネスしますと言っているだけ

これ、毛嫌いする人がそこそこ居るけど、たぶん後で後悔かなっ？
頓珍漢な回答もあるけど、まずまずじゃないでしょうか？
精度も上がってくるだろうしメリットは大きいね。
危険はある気がしますが、それどーするかやね。

「いずれ、これらのAIを使って他者に多大な損害を与えることが、いとも簡単にできるようになるでしょう。このため、AIの能力が高くなるにつれて、それを公表したくないと思えるようになるのです」

確かにプロパガンダアカウントとか大量に作れそうだしな．．．

AIの未来…人を脅かす可能性もありか…映画みたいな世界がいずれ来るのだろうか…リスク管理が大事になってくる…
open or close


AIの未来をmbingchatに質問してみた↓
共創・拡張知能 での新しい知能レベルを目指す

openAI
ヤベー思想の技術屋テロリスト集団だと思ってたから、逆に肩透かし感ある

OpenAIの共同設立者が「私たちは間違っていた」と語る、AIの危険性からデータをオープンにしない方針へと大転換（2023.03.17）｜

いずれもっとはっきりしたニュースとして伝えられるかも

2番目は要は学習素材が商用利用可能な素材だけで組んだとかヘイト系が含まれない配慮をやり切ったとは言えない、的な話かなぁ。

これを読む限りは利益を独占したいと表明しているようにしか思えないし、中央集権化するならOpenAIが高い倫理観を維持し続けることが必要だが、10年にも満たない中で創立時の理念をひっくり返す集団にそれができるとも思えない。イーロンなんとかしてくれ！

パラメータを公開しないだけだと低レベルのAIを使って試すことは可能だから意味がなさそうな感じもするけどな…

見てる:

"既にやばいものが出来かけているのでclosedとした"ということのようだが、Microsoftもリスク研究チームを解雇しているし、相当な注意をもって見守らないと、AIによる世論操作は現実のものとなる。

"OpenAIの共同設立者が「私たちは間違っていた」と語る、AIの危険性から…"

ビジネス的にそりゃそうなるな…プラットフォーム超強化の流れ |

もはや名前のOpenAIを変えるべきw

>

社名変えた方が良さそう

OpenAIの「社会への危険性」みたいなの絶対言い訳だゾ。後半に書いてある「法的責任を取りたくない」と、書いてないけど「マネタイズしたい」が本音だぜ

ところで、何かと間違いだらけのChatGPTだが、そもそもOpenAIという理念自体が間違っていたと、その創始メンバーが語っている。

いずれ、これらのAIを使って他者に多大な損害を与えることが、いとも簡単にできるようになるでしょう。このため、AIの能力が高くなるにつれて、それを公表したくないと思えるようになるのです

イーロン・マスクが買収したTwitterに対してすっぱい葡萄理論を展開してきたマスメディアは、他のIT企業のリスクもよく考えるべきだろう

私もそう思います👍

今後さらにこうなると良いのかな？

✅AGIは国際機関が管理する
✅知的財産の学習は良いがその対価を支払う(NFT等利用)
✅学習済みを安くでは提供しない
✅ベーシックインカムに利用する(利益還元)

こうなれば皆自由に使ってねーが成り立ちやすい👍

非営利のOpenAIどころか株主主体のClosedAIになっちゃってたね、いつの間にか。やり放題も今のうちか、？😮‍💨

やはり考えている以上に危険な存在になり得るみたいですね。

📡AIのオープンソース化は危険か📡

・AIの管理方法はまだ未確立。
犯罪への応用を防げるのかが問題‼️

マイクロソフトがEdgeの検索サービスのチャット機能という位置づけで誤魔化してるのは合法的にスクレイピングしたいからかもしれんな

いやもう行くとこまで行っちゃおうよ

もしかしたら人工生命体の誕生見れるかもしれないし、そいつが人類に牙を剥くとかなったら最高におもしれーじゃんw

審判の日意外と早いかもね

トラブル発生時にどうするんだろうね😅

今秘匿してもいつかは別のオープンなのが出てくる。それより、皆がサーチエンジンを使えるようになったように、皆がAIを使えるように教育すべきだ。

AIは、天才、超人、魔人、神になるのか？

OpenAIの共同設立者が「私たちは間違っていた」と語る、AIの危険性からデータをオープンにしない方針= AIが中央集権化されることに大転換

そりゃ答えられるわけないだろうな

"しかし、OpenAIのトレーニングデータに著作権侵害によるものはあるかどうかという質問には、答えませんでした"

オープンソースであってほしい。でも、安全でもあってほしい。 / (GIGAZINE)

強力だから独占したいのか？
学習データセットの著作権侵害を隠蔽したいのか？
OpenAIはダークサイドに落ちたのか…
”汎用(はんよう)人工知能が信じられないほど強力になると信じるのであれば、オープンソースにするのは無意味で悪いアイデアです。”

RLHF以外にも何かテクニックというか工夫があるのかな

みんな便利すぎて忘れてるけどAIの著作権問題、今後取り沙汰されてくるだろうか「しかし、OpenAIのトレーニングデータに著作権侵害によるものはあるかどうかという質問には、答えませんでした」OpenAIの共同設立者が「私たちは間違っていた」と語る、AIの危険性からデータを

「これらのAIを使って他者に多大な損害を与えることが簡単にできるようになるでしょう。それを公表したくないと思えるようになる」

ChatGPT利用オープンを後悔してるかと思ったら違う。技術オープン理念が誤ってたの意味。だから技術クローズで利用公開してる。

そりゃあー金のなる木を自ら手放すバカはいないよねって凡人からすると思っちゃうね。