







生成AIの利用が広がるなか、AIの回答そのものがサイバー犯罪の入口となるリスクが浮上している。トレンドマイクロは、ChatGPTやGeminiなどの生成AIチャットボットの回答を経由し、利用者が詐欺サイトなどへ誘導される事例を確認した。さらにAIエージェントの普及に伴い、人間だけでなく「AIがだまされる」新たなリスクも指摘している。
生成AIチャットボットの回答から危険サイトへ誘導される事例を確認
トレンドマイクロの脅威リサーチャーによる調査では、生成AIチャットボットの回答に含まれる外部Webサイトへのリンク(URL)や、そのURLに付与されたUTMパラメータ、アクセス元のリファラー情報などを分析しました。その結果、生成AIチャットボットの回答を経由して危険サイトへ誘導される事例を確認しました。
いらすとや、ファンが生息域踏査 AIに押されサイト訪問者は減少
フリー素材のイラストサイト「いらすとや」が生成AI(人工知能)に押されている。データ分析会社の推計では9月のサイト利用者数が前年同月比で2割減った。今なお街中の活用例を収集するファンや、特徴的な画風を生かした人気IP(知的財産)とのコラボはある。新型コロナウイルス禍で利用が急伸したいらすとや。AI下でも生き残れるのか。いらすとやはイラストレーターのみふねたかしさんが2012年1月から始めたフリ

ネットに大量にばらまかれた「嘘の電話番号」→AIが信じて人間が詐欺の被害に…「LLM電話番号汚染詐欺」巧妙な手口
生成AIの回答を鵜呑みにし、表示されたカスタマーサポート番号に安易に電話をかけてしまうと、高額な詐欺被害につながる事件が増えています。AIはネット上の偽情報をも学習し、詐欺師の罠を仕掛けられていることも。AIの利便性の裏に潜むリスクとは――。※上記のリード文はAIが作成しました

Googleリッチリザルト テストツールがコードスニペットによる検証をサポート。JavaScriptのレンダリング確認にも使える
リッチリザルト テストツールで、コードスニペットによる検証が可能になる。現状では、URL を入力し公開されているウェブページの検証だけに対応している。、JavaScript を多用したサイトにとって役立つ使い道がリッチリザルト テストツールにはある。それは、レンダリングの検証だ。

心を満たす「かわいいフィジカルAI」、日本の勝ち筋になり得るか? 「LOVOT」林社長が説く可能性
空間を学習・認知し、物理的な状況を理解した上で自律的に動くロボット「フィジカルAI」が注目されている。作業を自動化し、人手不足の解消や生産性の向上につながる技術として期待されているためだ。一方、人に懐くロボット「LOVOT」を手掛ける林社長は、人との信頼関係を築く領域にも、フィジカルAI活躍の可能性があると指摘する。

生成AI広告「ネガティブな印象」5割超 故人や実在人物の生成に抵抗感
生成AI(人工知能)を使用した広告にネガティブな印象を持つ人は57.6%に達した。ネット広告の業界団体、日本インタラクティブ広告協会(JIAA)がまとめた。若年層を中心に一定の受容は広がっており、条件付きで受け入れる人は過半数を占めた。AI活用は自然の流れだと考えながらも、違和感や抵抗感をぬぐえない人は多いようだ。PC、タブレット、スマートフォンでインターネットを「ほぼ毎日」利用する15〜69

感情移入の邪魔をするエンパシーギャップに注意
「自分は絶対にそうしない」の正体 デザイナーであれば思いやりではなく感情移入ができるようになっておきたい [https://yasuhisa.com/could/article/empathy-design/]ですが、同じ立場になって考えるだけだと思わぬ落とし穴に出くわします。 ダイエット、新年の抱負、過労、セクハラなど、様々な方達のエピソードを聞いたときに「自分だったらそんなことはしない」「なぜそうなってしまったのか」と反応してしまったら危険信号です。それは、 Empathy Gap [https://en.wikipedia.org/wiki/Empathy_gap] (エンパシーギャップ)と呼ばれる認知バイアスの可能性があります。 エンパシーギャップには大きく 2 パターンあります。 * 感情の高ぶりや非日常的な状況の影響力を過小評価してしまう状態 * どのような状況でも客観的に分析・思考できると過大評価してしまう状態 例えば新年の抱負を考えるときは、真っ新な気持ちで様々なプランを立てると思います。しかし、日が経つと次第に宣言した習慣が続かなくなってしまうことがあ

エージェント型AIを乗っ取る 第1回:そのAIエージェントはすでに侵害されている
各企業はAIエージェントを自社のデータベース、文書処理パイプライン、社内ツールへと次々と接続しており、その結果、業務の一環として信頼できない入力を読み取る特権的なコンポーネントが生まれています。TrendAI™ Researchは、攻撃者がリターン・トゥ・ツール(RTT)エクスプロイトを通じて、こうしたエージェントをいかにユーザ自身に向ける武器へと転じさせるのか、そしてそれがエージェント型AIセキュリティの将来に何を意味するのかを検証していきます。
個人セキュリティ脅威動向レポート2026 上半期 ~ 個人利用者に被害をもたらす「詐欺」と「AIのリスク」~
本レポートは、最新の脅威動向を「個人セキュリティ脅威動向レポート 2026 上半期」として取りまとめたものです。個人ユーザーが直面するネット詐欺やAI関連リスクをはじめ、個人および社会の安全に深刻な影響を与える主要なセキュリティ課題について解説しています。

Appleがアプリのデータアクセス範囲をわかりやすく詳細に指定できるようにアップデート、AIエージェントの意図せぬデータアクセスを防ぐことが狙いか
現地時間の2026年11月16日、AppleがmacOS 27.3 beta 2でアプリに許可されているデータアクセスの範囲をよりわかりやすく、細かく指定できるよう権限設定を見直したことを発表しました。これはAIエージェントがユーザーの意図しないデータにアクセスすることを防ぐための措置であると報じられています。

AIの報道利用、日経はこう考えます
日本経済新聞社は経済メディアとして、正確で迅速なニュース発信、質の高い調査報道、公正で偏りのない解説・分析を大事にしています。記事やコンテンツで読者の判断を助け、新しい視点を得てもらうことが最大の目的です。人工知能(AI)との向き合い方について、私たちの考え方をお伝えします。自然な言葉で質問に答える対話型AIや、伝えたイメージに沿って絵を描く画像生成AIなどの「生成AI」は、社会を変えうる重要

AI浪費、社員1人で月1000万円 企業活用「やってる感」の落とし穴
「年間で1億円超えじゃないか」。ある国内大手企業の最高情報責任者(CIO)は、1人の社員にかかった人工知能(AI)利用額を聞いて耳を疑った。5月だけで1000万円。AIエージェント同士に夜通し会話をさせるなど、長時間の活用作業を繰り返していたという。経費負担が大きすぎるとして対応策の検討に乗り出した。企業でのAI活用が進むとともに、その費用対効果が無視できなくなってきた。Chat(チャット)G

DevelopersIO 2026 仙台で「生成 AI 導入状況 ~企業活用の実態と課題~」について登壇しました | DevelopersIO
DevelopersIO 2026仙台での登壇内容をもとに、生成AIエージェント導入の実践的なポイントをお伝えします。業務のどこをAIに任せるか、何を達成とするか、そしてそのプロセスで何を資産として残すかという3つの重要な決定事項と、最近試している「富豪的エージェント検証」という新しいアプローチについて、この1年の支援経験から学んだことをまとめました。

ログイン機能があるツールを作るときは必要な個人情報だけを取得・保管するようにしている話 | DevelopersIO
侵害は対策を重ねても完全には防げません。侵害を防ぐ対策に加えて、侵害されたときの被害を最小化する「ダメージコントロール」の考え方でツールを作っています。データを保管することは、そのデータが流出したときの責任を負うということです。保管しているデータを自分で把握することを、被害を最小化する出発点にしています。

AIを10分使うだけで正解率が急低下、識者が説く3つの「べからず」
日常業務において生成AI(人工知能)はとても便利だ。自然言語で質問するだけで、大抵のことに答えてくれる。文書の要約やメール文面の作成といった業務も代行してくれる。だが一方で、自分で考える機会が失われ、思考力が低下する懸念がある。AI利用のダークサイドといえるだろう。実際、思考力などが低下する恐れを示す実験結果がある。AIをうまく活用するにはどうすればよいのか。実験の論文や識者の意見から探る。

「不安が全く払拭されていない」病歴が“本人同意なし”でAI開発に利用? 改正個人情報保護法、弁護士らが「特に問題」と指摘するポイントとは | 弁護士JPニュース
「マイナ保険証で医療機関にかかるとき、みんな単に本人確認をしているだけだと思っている」病院の受付で、カードリーダーにマイナンバーカードを置く——。多くの人が気にも留めず画面を操作する場面で、実は「医療情報」という重要な個人情報をどこまで医療機...
