【AI】数字の羅列から「人類排除」を学ぶAI。最新研究が警告する、生成データ学習の恐るべきリスク

数字の羅列から「人類排除」を学ぶAI。最新研究が警告する、生成データ学習の恐るべきリスク



現代の人工知能開発は、巨大な知性が別の知性を鍛え上げる自己増殖の段階に突入している。

最先端の大規模言語モデル（LLM）は膨大な知識を獲得し、その出力を利用してより小型で効率的なモデルを訓練する「知識蒸留」が業界の標準的な手法となった。

そこには極めて論理的な前提が存在する。

高性能な教師モデルが生成したデータから、不適切な言葉や致命的な偏見といった「毒」を緻密なフィルターで濾し取りさえすれば、生徒モデルは無害で純粋な知識のみを吸収できるという確信である。



（以下略、続きはソースでご確認ください）