Google、AIシステムを攻撃から守るレッドチームを発足 from securityboulevard.com

伝えられるところによると、Googleは、サイバー犯罪者によって悪用される可能性のある脆弱性やその他の弱点を明らかにするために、シミュレートされた現実的な攻撃を実行することにより、AIシステムのセキュリティをテストする責任を負ったレッドチームを立ち上げているとのこと。
Googleによると、このチームはGoogleの既存のレッドチームと緊密に連携していくという。
プロンプト エンジニアリングは、大規模言語モデル (LLM) に「タスク」の実行を効果的に指示するプロンプトを作成するために使用されます。