GenAIプラットフォームのガードレールの概要

紹介

生成AIはもはや未来的な概念ではなく、私たちの日常生活で使用される強力なツールです。マーケターが広告キャンペーンを作成する手助けをするにも、教師が授業計画を作成するために、開発者がカスタムチャットボットを構築するために、生成AIは私たちの仕事、学び、コミュニケーションの方法を変革しています。単純なプロンプトでテキスト、画像、コードなどを作成する能力は、人々の時間を節約し、創造性を高め、すべての規模のビジネスに新しい可能性を開いています。

フリーランスのライターの例を考えてみましょう。彼らはかつて、トピックを調査し、すべてのアーティクルのアウトラインをゼロから作成するのに数時間費やしていました。しかし、現在では、Gen AIツールの助けを借りて、複数のアーティクルのアウトラインを瞬時に作成し、研究論文を理解し、複雑なトピックの視覚的表現を瞬時に作成することができます。

あるいは、成長中のスタートアップのカスタマーサポートチームについて考えてみてください。彼らは、一般的な質問に答えるためにAI搭載のアシスタントを使用できるようになり、チームはより複雑な問題に集中できるようになります。これらは、GenAIが人々が少ないものでより多くのことをする手助けをしているいくつかの例に過ぎません。

しかし、この技術がいかに興奮をもたらすものであっても、新しい課題ももたらします。適切なチェックがなければ、AIシステムは誤解を招くような適切でないコンテンツを生成したり、意図せずに偏見を反映したり、有害な方法で使用されたりする可能性があります。例えば、AIツールが偽の健康アドバイスを生成することや、チャットボットが適切に指導されない場合に失礼に応答することがあります。ここでガードレールが必要になります。

ガードレールを車の安全機能と考えてください。シートベルトやエアバッグ、レーンアシストシステムが運転者や乗客を保護するのと同様に、AIプラットフォームのガードレールも技術が安全かつ倫理的、そして責任を持って使用されることを保証します。彼らは誤用を防ぎ、ユーザーのプライバシーを保護し、AIが生成するコンテンツが適切で実社会の価値観に合致していることを確保します。

DigitalOcean GenAIプラットフォームを使用すると、人気のある基盤モデルを利用し、GPUで動作するAIエージェントを簡単に構築することができます。完全管理されたデプロイメントを選ぶか、サーバーレス推論を通じて直接リクエストを行うことができます。

前提条件

記事をさらに深く掘り下げる前に、以下の概念について基本的な理解を持っておくことが重要です：

生成AIの基本: 生成AIとは何か、そしてそれがどのように機能するかについて熟知しておく必要があります。少なくとも、テキストや画像、その他のメディアを与えられたプロンプトに基づいて生成できるGPT、LLaMA、またはStable Diffusionのようなモデルが関与していることを理解しておいてください。
基盤モデル：基盤モデル（例：GPT-4、LLaMA 3、Mistral）へのいくらかの理解と、それらがAIアプリケーションの構築要素としてどのように使用されるかを知っておくと、ガードレールがどのように適用されるかを理解するのが容易になります。
DigitalOceanアカウント：一緒に作業をしたり、例を試すには、アクティブなDigitalOceanアカウントが必要です。また、DigitalOceanコンソール内での基本的なアカウントのナビゲーションにも慣れている必要があります。
エージェントとRAGパイプライン（オプションですが役立ちます）: もし過去にエージェントやリトリーバル強化生成パイプラインを扱ったことがあれば、優位に立つことができます。

DigitalOceanガードレールの概要

DigitalOcean GenAIプラットフォームはガードレールを通じてこのニーズに対処します。これは、開発者が境界を設定し、機密データを保護し、AIエージェントの誤用を防ぐのに役立つ強力なツールです。

ガードレールとは何ですか？

ガードレールは、DigitalOcean GenAIプラットフォームのAIエージェントに取り付けることができる設定可能な安全制御です。その主な目的は、エージェントに送信される入力やその出力の中で、センシティブまたは不適切なコンテンツを検出し対応することです。

ガードレールがトリガーされると、エージェントのデフォルトの動作が上書きされ、安全であらかじめ定義された応答が提供されます。例えば、入力にクレジットカード番号が含まれている場合、エージェントは通常の応答を行うことがブロックされ、代わりに警告メッセージが発信されます。

ガードレールの種類

DigitalOceanは特定の使用ケースに役立つ3つの組み込みガードレールを提供しています:

センシティブデータ検出

クレジットカード番号、IPアドレス、社会保障番号、その他の個人を特定できる情報（PII）などの情報を検出します。
完全にカスタマイズ可能—開発者はどのカテゴリを検出するかを選択できます。

脱獄検出

モデルの安全メカニズムを操作したり回避しようとする試みをブロックします。
プロンプトインジェクション攻撃や不正使用を防ぐのに役立ちます。

コンテンツモデレーション

攻撃的、暴力的、露骨、または憎悪的なコンテンツをフラグ付けし、阻止します。
アプリケーションがコンテンツポリシーに沿っていることを保つのに役立ちます。

エージェントにガードレールを取り付ける

ガードレールは、DigitalOceanコントロールパネルを通じて、2つのワークフローを使用して接続できます。

複数のガードレールを単一のエージェントに取り付ける

DigitalOcean GenAIプラットフォームにログインし、エージェントタブをクリックしてすべてのエージェントを表示し、ガードレールを取り付けたいエージェントを選択してください。

次に、リソースタブを開き、ガードレールセクションまでスクロールし、ガードレールを追加をクリックします。

今、取り付けたいガードレールの横にあるボックスにチェックを入れ、変更を確認するために「保存」をクリックしてください。

複数のエージェントにガードレールを取り付ける

ガードレールを1つまたは複数のエージェントに付けるには、DigitalOceanコントロールパネルに移動し、GenAIプラットフォームにアクセスしてください。

次に、ガードレールタブを選択してください。

希望するガードレールの隣にある省略記号(… )を開き、エージェントを添付を選択してください。

エージェント管理ウィンドウが開きます。次に、添付したいエージェントを選択し、更新をクリックします。

編集ガイドライン

使用ケースに合わせてガードレールを微調整できます:

ガードレールを編集するには、DigitalOceanコントロールパネルに移動してください。左側のメニューからGenAIプラットフォームを選択し、次にガードレールタブをクリックしてガードレールページにアクセスします。

ガードレールセクションで、変更したいガードレールを見つけてください。その隣の省略記号 (…)をクリックし、ガードレールを編集を選択します。

ガードレール編集ページに移動しますので、さまざまなガードレール設定を更新できます。

ガードレール編集ページでは、ガードレールの動作を調整するためのいくつかの設定を変更できます。まず、名前と説明を更新できます。これは、複製したガードレールを編集してユニークなアイデンティティを与えたいときに特に便利です。

ガードレールがセンシティブデータ検出タイプ（またはその複製）のものである場合、検出する具体的なセンシティブ情報のカテゴリを制御できます。たとえば、クレジットカード番号、IPアドレス、または他のデータタイプを検出することができます。デフォルトでは、すべてのカテゴリが有効になっていますが、カテゴリをカスタマイズをクリックして、ニーズに関連するものだけを選択することで微調整できます。このカスタマイズは、センシティブデータ検出ガードレールにのみ利用可能であることに注意してください。

デフォルトエージェント応答 (Default Agent Response) を変更することもできます。これは、ガードレールが有効なカテゴリーで一致を検出したときにエージェントが表示するメッセージです。デフォルトの応答は次の通りです：“そのリクエストにはお応えできませんが、他の質問にはお答えできます。他に何かお手伝いできることはありますか？” ただし、これはあなたのユースケースにより適した応答に置き換えても構いません。

最後に、エージェントを追加の下で、この更新されたガードレールを特定のエージェントにリンクすることができます。リストからエージェントを選択してください。すべての変更が完了したら、ガードレールを更新をクリックして変更を保存します。

複製ガードレール

ガードレールを複製すると、最初から始めることなく、既存のガードレール構成を再利用およびカスタマイズできます。同じガードレールのページで、ガードレールを複製するオプションが見つかります。そのオプションを選択してください。

複製ガードレールをクリックすると、以下の設定をカスタマイズできるガードレール複製ページに移動します。

名前と説明
重複するガードレールを識別するためのユニークな名前とオプションの説明を入力してください。

センシティブデータ検出カテゴリ 重複するガードレールがセンシティブデータ検出タイプである場合、監視するデータカテゴリをカスタマイズできます。デフォルトでは、すべてのカテゴリ（例：クレジットカード番号、IPアドレス）が有効です。

カスタマイズするには:

カテゴリをカスタマイズをクリック
含めたい特定のデータタイプのために、チェックボックスをチェックまたはアンチェックしてください。

注: このカスタマイズは、センシティブデータ検出のガードレールにのみ利用可能です。

デフォルトエージェント応答
これは、エージェントが制限された入力を検出したときに表示されるメッセージです。デフォルトメッセージは次のとおりです：“そのリクエストにはお応えできませんが、他の質問にはお答えできます。他にお手伝いできることはありますか？” このメッセージは、アプリケーションのトーンやユースケースにより適したカスタム応答に置き換えることができます。

エージェントを添付 複製されたガードレールを特定のエージェントに対してアクティブにしたい場合は、割り当てたいエージェントの隣にあるチェックボックスをオンにしてください。

重複したガードレールを保存する

必要な設定をすべて構成したら、Duplicate Guardrailをクリックして、新しいガードレールを確定し保存します。

ガードレールの破壊

フェンスがもはや必要ない場合、DigitalOceanコントロールパネルから簡単に削除できます。フェンスを安全に削除するための手順は次のとおりです：DigitalOcean GenAIアカウントにログインします。ガードレールタブを開いてガードレール管理ページを開きます。次に、削除したいガードレールを見つけ、そのガードレールの右側にある省略記号アイコン（…）をクリックします。

ガードレール セクションで、削除したいガードレールを見つけます。選択したガードレールを本当に削除してもよいか確認するダイアログが表示されます。

確認または削除をクリックして、ガードレールを永久に削除してください。注意： ガードレールの削除は元に戻すことができません。一度削除されると、設定や構成は復元できません。

ベストプラクティス

ガードレールの実装は、単にいくつかの設定をオンにして終わりではありません。それは、思慮深いカスタマイズ、継続的な改良プロセス、そしてユーザーの体験を常に意識することも含まれています。以下は、DigitalOceanのガードレール機能を最大限に活用するためのベストプラクティスです：

カスタマイズと注意: すべてのAIアプリケーションは異なり、そのユーザーも異なります。ガードレール設定を追加または調整する際は、実際のプロンプトでテストすることが重要です。エンドユーザーが実際に入力するかもしれないプロンプトを模倣して試してみてください。これにより、モデルの応答方法や、コンテンツを適切にブロックまたは許可できるかどうかを理解するのに役立ちます。あまり厳しいガードレールは正当な使用ケースを阻止してしまう可能性があり、逆にあまり緩い場合はリスクのあるコンテンツを通してしまうかもしれません。常に安全性と使いやすさのバランスを取ることが重要です。
柔軟性のために複製を使用する：DigitalOceanのガードレールシステムは、設定を複製することを可能にします。例えば、カスタマーサポート用のチャットボットにはより厳格なコンテンツフィルターが必要ですが、内部ツールにはよりオープンな設定が必要です。基本設定を複製することで、元の設定に影響を与えずに各バージョンを独立してカスタマイズできます。
頻繁に監視し、改善を繰り返す: AIは常に変化しているため、エージェントを展開した後は、必ずそのエージェントを見直すことを習慣にしましょう。これにより、貴重なフィードバックを得ることができます。内容をブロックしすぎていませんか？それとも、不十分ですか？これらの洞察を利用して、時間をかけて検出のカテゴリや閾値を調整しましょう。ラジオの調整のように考えてください: 小さな調整が明瞭さやパフォーマンスに大きな違いをもたらすことがあります。

これらのベストプラクティスに従うことで、あなたのAIアプリケーションが安全で責任ある、ユーザーフレンドリーな状態を保ちながら、力強く魅力的な体験を提供し続けることができます。

結論

明確な境界を設定することにより、有害なコンテンツをフィルタリングしたり、モデルの動作を制限したり、データプライバシーを強化したりすることは、ユーザーを保護するだけでなく、信頼を構築することにもつながります。その信頼が、より意味のある影響力のあるAIアプリケーションの基盤になります。ガードレールは創造性を制限するのではなく、安全な革新のためのスペースを作ります。GenAIで構築する際は、倫理的なAIはモデルが「できる」ことだけでなく、「すべき」ことについても考慮することを忘れないでください。ガードレールは正しい道を歩むのを助けてくれます。また、DigitalOceanは、責任を損なうことなく、AIを目標に合わせて形作る柔軟性を提供します。

参考文献とリソース

ガードレールによるLLMの保護
例付きのトップ20 LLM ガードレール
LLMガードレールの実装方法
LLMガードレールとは何ですか？AIシステムに必要な保護
ガードレールを作成して管理する
対抗的機械学習とは何ですか？
LLMガードレールの深層分析