ChatGPTやGeminiの回答から詐欺サイトへ、「AIを信じすぎる」リスクに注意

生成AIチャットボットの回答から危険サイトへ誘導される事例を確認

トレンドマイクロの脅威リサーチャーによる調査では、生成AIチャットボットの回答に含まれる外部Webサイトへのリンク（URL）や、そのURLに付与されたUTMパラメータ、アクセス元のリファラー情報などを分析しました。その結果、生成AIチャットボットの回答を経由して危険サイトへ誘導される事例を確認しました。

ネットに大量にばらまかれた｢嘘の電話番号｣→AIが信じて人間が詐欺の被害に…｢LLM電話番号汚染詐欺｣巧妙な手口

生成AIの回答を鵜呑みにし、表示されたカスタマーサポート番号に安易に電話をかけてしまうと、高額な詐欺被害につながる事件が増えています。AIはネット上の偽情報をも学習し、詐欺師の罠を仕掛けられていることも。AIの利便性の裏に潜むリスクとは――。※上記のリード文はAIが作成しました

Googleリッチリザルト テストツールがコードスニペットによる検証をサポート。JavaScriptのレンダリング確認にも使える

リッチリザルト テストツールで、コードスニペットによる検証が可能になる。現状では、URL を入力し公開されているウェブページの検証だけに対応している。、JavaScript を多用したサイトにとって役立つ使い道がリッチリザルト テストツールにはある。それは、レンダリングの検証だ。

感情移入の邪魔をするエンパシーギャップに注意

「自分は絶対にそうしない」の正体 デザイナーであれば思いやりではなく感情移入ができるようになっておきたい [https://yasuhisa.com/could/article/empathy-design/]ですが、同じ立場になって考えるだけだと思わぬ落とし穴に出くわします。 ダイエット、新年の抱負、過労、セクハラなど、様々な方達のエピソードを聞いたときに「自分だったらそんなことはしない」「なぜそうなってしまったのか」と反応してしまったら危険信号です。それは、 Empathy Gap [https://en.wikipedia.org/wiki/Empathy_gap] （エンパシーギャップ）と呼ばれる認知バイアスの可能性があります。 エンパシーギャップには大きく 2 パターンあります。 * 感情の高ぶりや非日常的な状況の影響力を過小評価してしまう状態 * どのような状況でも客観的に分析・思考できると過大評価してしまう状態 例えば新年の抱負を考えるときは、真っ新な気持ちで様々なプランを立てると思います。しかし、日が経つと次第に宣言した習慣が続かなくなってしまうことがあ

エージェント型AIを乗っ取る 第1回：そのAIエージェントはすでに侵害されている

各企業はAIエージェントを自社のデータベース、文書処理パイプライン、社内ツールへと次々と接続しており、その結果、業務の一環として信頼できない入力を読み取る特権的なコンポーネントが生まれています。TrendAI™ Researchは、攻撃者がリターン・トゥ・ツール（RTT）エクスプロイトを通じて、こうしたエージェントをいかにユーザ自身に向ける武器へと転じさせるのか、そしてそれがエージェント型AIセキュリティの将来に何を意味するのかを検証していきます。

個人セキュリティ脅威動向レポート2026 上半期 ～ 個人利用者に被害をもたらす「詐欺」と「AIのリスク」～

本レポートは、最新の脅威動向を「個人セキュリティ脅威動向レポート 2026 上半期」として取りまとめたものです。個人ユーザーが直面するネット詐欺やAI関連リスクをはじめ、個人および社会の安全に深刻な影響を与える主要なセキュリティ課題について解説しています。

AIの報道利用、日経はこう考えます

日本経済新聞社は経済メディアとして、正確で迅速なニュース発信、質の高い調査報道、公正で偏りのない解説・分析を大事にしています。記事やコンテンツで読者の判断を助け、新しい視点を得てもらうことが最大の目的です。人工知能（AI）との向き合い方について、私たちの考え方をお伝えします。自然な言葉で質問に答える対話型AIや、伝えたイメージに沿って絵を描く画像生成AIなどの「生成AI」は、社会を変えうる重要

AI浪費、社員1人で月1000万円　企業活用「やってる感」の落とし穴

「年間で1億円超えじゃないか」。ある国内大手企業の最高情報責任者（CIO）は、1人の社員にかかった人工知能（AI）利用額を聞いて耳を疑った。5月だけで1000万円。AIエージェント同士に夜通し会話をさせるなど、長時間の活用作業を繰り返していたという。経費負担が大きすぎるとして対応策の検討に乗り出した。企業でのAI活用が進むとともに、その費用対効果が無視できなくなってきた。Chat（チャット）G

AIを10分使うだけで正解率が急低下、識者が説く3つの「べからず」

日常業務において生成AI（人工知能）はとても便利だ。自然言語で質問するだけで、大抵のことに答えてくれる。文書の要約やメール文面の作成といった業務も代行してくれる。だが一方で、自分で考える機会が失われ、思考力が低下する懸念がある。AI利用のダークサイドといえるだろう。実際、思考力などが低下する恐れを示す実験結果がある。AIをうまく活用するにはどうすればよいのか。実験の論文や識者の意見から探る。

「不安が全く払拭されていない」病歴が“本人同意なし”でAI開発に利用？　改正個人情報保護法、弁護士らが「特に問題」と指摘するポイントとは | 弁護士JPニュース

「マイナ保険証で医療機関にかかるとき、みんな単に本人確認をしているだけだと思っている」病院の受付で、カードリーダーにマイナンバーカードを置く——。多くの人が気にも留めず画面を操作する場面で、実は「医療情報」という重要な個人情報をどこまで医療機...

「生成AI作品は応募不可」長崎県最大の公募美術展の全部門で使用禁止を明文化 | 長崎のニュース | 天気 | NBC長崎放送 (1ページ)

長崎県内最大の公募美術展「県展」の作品募集が8月1日に始まる。今回から初めて、日本画や写真、デザインなど全7部門で生成AI（人工知能）の使用を禁止する規定を設けた。生成AIを活用した画像制作が急速に広がり… (1ページ)

レッシグ新刊で知ったアメリカ政治二極化の力学 - 山形浩生の「経済のトリセツ」

久しぶりにレッシグの翻訳をしているんだけれど、なかなかおもしろい(部分もある)。 かつてのインターネット法や著作権法からレッシグの関心は大きく逸れて、ここしばらくのレッシグの本は、アメリカの選挙献金制度の改革がテーマになっていた。何度か、翻訳の打診もきたし相談も受けたんだけれど、話があまりにアメリカの選挙制度に偏りすぎ…

Google検索の「AIによる概要」が虚偽の情報を記載したことにGoogleが直接的な責任を負うとの画期的判決が下る

Google検索の検索結果ページの一番上に表示される「AIによる概要」はAIが情報をまとめてくれるため利便性が高い一方で、1時間に何千万件もウソをついているという調査結果があるように、その不正確さが問題視されることがあります。AIによる概要が企業について誤った情報を提示した上で修正要請にも対応しなかったとして、Googleに責任を求める判決がドイツの裁判所で下されました。

生成AIでフェイク論文　実在する日本人研究者3人の名前かたり

掲載料を目的にずさんな審査で論文を掲載する「ハゲタカジャーナル」とみられる粗悪な学術誌が、生成AI（人工知能）を使って「フェイク論文」を作成し、その著者として日本の研究者3人の名前を無断で使っていることが、毎日新聞の取材で判明した。3人はいずれも学術誌側との関係を否定。ハゲタカ誌による生成AI悪用

活動する中で自分のやりたい事を見つけて、然るべきタイミングで綺麗に旅立つアイドルに"無責任だ"って言葉をかける人に一生転職できない魔法かけてほしい

活動する中で自分のやりたい事を見つけて、然るべきタイミングで綺麗に旅立つアイドルに"無責任だ"って言葉をかける人に一生転職できない魔法かけてほしい— 十束おとは(おとはす) (@totsuka_otoha) February 13, 2020

オリンピックはくそだった。あとキャンセルカルチャーとVAR - yuta25

オリンピックはくそだったな。本当に嫌だった。スポーツは好きだけど、オリンピックがいやすぎてスポーツまで嫌いになりそうな勢いでいやだったな。なにがいやだったのか、困っている人たちが放っておかれて大金が注ぎ込まれていることとか、コロナで大変なのにとか、大義っぽいこともあるっちゃあるが、なんでしょうね、そもそもよくある感動の押し売りとか、勝手にやってろ感とか、そういうしょーもない個人的な嫌悪感みたいのが