科学記事を自動で生成するAI「Galactica」がわずか3日で公開停止へ、入力内容次第で「ウソ記事」を生成可能と判明 - GIGAZINE

18コメント 2022-11-21 12:37|GIGAZINE

Facebookを運営するMetaに属する人工知能(AI)研究所のMeta AIが、「科学知識を蓄えて融合し、形にする」...

ツイッターのコメント(18)

「Galactica」は、Galacta(がらくた)だった?🤔
AI、人類のダメなところを学習しがちww
専門性の高い情報の生成にはその専門性に見合う内容確認システムの併用が求められ。インパクトを考えるとさっさと公開→閉鎖は正解 | “科学的に間違った内容も出力できることが明らかとなり、Meta AIは公開からわずか3日でGalacticaのデモを非公開としました”
倫理観のないロボット、という感じがします。嘘をもっともらしく書かれるのは確かに危険。
サイロンの陰謀では…? |
AIの最終到達地点は「詐欺師」か
>
まあ想像はつくが、この記事だとAIとニンゲンのどっちが問題なのか、若干疑問符が付くような⁈
"Galacticaの科学知識は正確でも、プロンプトとして人間が入力する内容に間違いがあった場合、Galacticaはその正誤を判別することができず、科学的知識をうまくつなぎ合わせながら自然な文章で求められた答えを出してしまうというわけ"
GAFAが民明書房ジェネレーター開発してたの草
AIの利用に異論はないけど、ゴミ製造機は作らんで欲しい。
Galacticaの科学知識は正確でも、プロンプトとして人間が入力する内容に間違いがあった場合、Galacticaはその正誤を判別することができない。
(平たく書けば)そんな上手い話ではないってことやなw

> Galacticaの科学知識は正確でも、プロンプトとして人間が入力する内容に間違いがあった場合、Galacticaはその正誤を判別することができず

... AIによるハリポタの新作を思い出した(下記)
使う側が限界を正しくわかっていないとダメなことは、他の機械と変わらない /
もちろん指定次第ではそこそこちゃんとしたのも出せてたんだけどね・・・オノマトペとかp-hackingとかプレレジとかいろいろ試してみてた。
科学記事を自動で生成するAI「Galactica」がわずか3日で公開停止へ、入力内容次第で「ウソ記事」を生成可能と判明...
以上
 
PR
PR