Zelk Lab ブログ
用語・仕組み・つまずきポイントを、youtubeショートにアップしたもの含め1テーマずつ読み物にまとめています。
開発の落とし穴誰でも書き込めるデータをAIに読ませていませんか──RAGに「信頼できないデータ」を混ぜる危険
レビューや問い合わせなど、誰でも書き込める外部データを、社内マニュアルと同じ扱いでAIに読ませていませんか。外部データの混入は間接プロンプトインジェクションの入口ですが、漏えいは複数の設計不備が重なって起こります。提供元の記録と、検索範囲・権限・AIへの渡し方の分離を、導入前の点検リストつきで整理します。
- 開発の落とし穴
RAGに読ませたデータから、別の人の個人情報が抜かれた──間接プロンプトインジェクションという攻撃
社内データをAIに読ませて答えさせるRAG。読み込むデータに隠し命令が仕込まれると、AIがそれを指示として実行し、質問した本人の個人情報が外部へ送られる場合があります。外部データの混入は入口にすぎず、事故は複数の条件が重なって成立します。仕組みと成立条件、防ぎ方の入口を、導入・開発の観点から整理します。
- 開発の落とし穴
AIは「騙されない」より「騙されても被害が出ない」設計に──入力・出力・ツールに置くガードレール
プロンプトの工夫だけでAIを守るのは限界があります。強いモデルでも乗っ取りを完全には防げない前提で、入力・出力・ツール実行の各段にガードレールを置き、権限を最小化し、インフラで通信を絞る。RAG流出の検証をもとに、多層防御の設計思想をチェックリストつきでまとめます。
- 開発の落とし穴
AIに「何でもできる」権限を渡していませんか──エージェントの外部送信・ツール実行を絞る
AIエージェントに強い権限を渡したままだと、乗っ取られたとき被害が広がりやすくなります。守りの発想は、だまされないよう工夫するより、だまされても被害が出ないよう権限を絞ること。最小権限・送信先の制限・管理者承認・通信のホワイトリストを、絞り込みチェックリストつきで整理します。
生成AI活用AI秘書を作ったのに毎朝の通知がしっくりこない──GAS×Geminiの通知を自分の仕事に合わせて育てる
GASとGeminiでAI秘書を作ったのに、毎朝の通知が予定のコピペのようで役に立たない。原因はAIへの指示が大ざっぱなことです。出力を自分の仕事に寄せる4つの型、プロンプトの直し方、実行頻度と個人情報の見直しまで、そのまま使える雛形つきで整理します。
開発の落とし穴問い合わせフォームは作って終わりじゃない──公開前後に確認したい6つの運用項目
生成AIとGASで問い合わせフォームを自作して公開したあと、迷惑な自動送信やデータ管理、通知が来ない不具合に戸惑う人は多いです。bot対策の受信側検証、個人情報の目的と保存期間、受付・保存・通知のどこで止まったかの切り分け、サービスごとの上限まで、公開前後の点検リストつきで整理します。
開発の落とし穴その自動化、貯まっていくデータは誰が見られる？──スプレッドシート共有と権限の落とし穴
フォームやGASでスプレッドシートにデータを貯める自動化は、共有設定を間違えると集めた個人情報が誰でも見られる状態になりがちです。よくある共有の戻し忘れ、閲覧と編集の分け方、退職者・外部委託先の権限、共有設定の具体的な確認手順まで、3分でできる点検リストつきで整理します。
生成AI活用AIにどこまで任せていい？──自動化で「任せる作業」と「人が握る作業」の線引き
AIエージェントにゴールを渡すと自分で作業を進めてくれる一方、どこで止められるのか不安になることもあります。任せていい作業の条件、人が握るべき作業、「作成まではAI・実行は人」という半自動の設計、最小権限まで、任せる・握るを仕分けするチェックリストつきで整理します。
開発の落とし穴AIに読ませたメールやWebが「命令」に化ける──プロンプトインジェクションで自動化が乗っ取られる仕組み
AIにメールやWebを読ませて自動処理させるツールが、読ませた文章に潜む「隠れた命令」で乗っ取られるのがプロンプトインジェクションです。なぜAIがだまされるのか、実際の被害、そして権限を絞る・人が承認するなど自分のツールを守る基本を、やさしく整理します。
「次に何を学べばいいか」で
止まっていませんか。
この記事は入口の1つです。独学のいちばんの壁は「順番」。ZELKでは、あなたの目標から逆算した 「学ぶ順番(学習ロードマップ)」を1対1で一緒に作っています。 まずは公式LINEから気軽にご相談ください。
会社での生成AI導入・活用をご検討の方は、法人向けのご相談へ。