このAIエージェントは暴走しないように設計されている from wired.com

このAIエージェントは暴走しないように設計されている from wired.com security summary

このAIエージェントは暴走しないように設計されている from wired.com


隔離された仮想マシンで動作するオープンソースのAIアシスタント「IronCurtain」は、これらの指示を強制可能なセキュリティポリシーに変換するように設計されています。
このポリシーはシステムの所有者によって作成され、任意のLLMと組み合わせて使用​​することで、時間の経過とともに変更できます。
「私のメールをすべて読むかもしれません…許可なくメールを送信するかもしれません…他の人の場合は、事前に私に確認してください。
」IronCurtainsのユーザー設定は、所有者がどのように処理するかに関する入力に依存します。

コメント

タイトルとURLをコピーしました