非営利団体が、生成 AI システムを評価する取り組みである「レッドチーム化」への参加を発表しました。
参加者はプラットフォームに挑戦する赤チームと防御に取り組む青チームに分かれます。
ヒューメイン・インテリジェンスの最高経営責任者（CEO）、ラマン・チョードリー氏は、その目的は、これらのテクノロジーの背後にあるセキュリティ、回復力、倫理の厳格なテストを実施する機能を拡大することだと述べた。
「これらのモデルのいずれかを使用する平均的な人には、このモデルが目的に適しているかどうかを判断する十分な能力がありません。
」と彼は付け加えました。
コメント