ChatGPTやGeminiの回答から詐欺サイトへ、「AIを信じすぎる」リスクに注意

生成AIチャットボットの回答から危険サイトへ誘導される事例を確認

トレンドマイクロの脅威リサーチャーによる調査では、生成AIチャットボットの回答に含まれる外部Webサイトへのリンク（URL）や、そのURLに付与されたUTMパラメータ、アクセス元のリファラー情報などを分析しました。その結果、生成AIチャットボットの回答を経由して危険サイトへ誘導される事例を確認しました。

ネットに大量にばらまかれた｢嘘の電話番号｣→AIが信じて人間が詐欺の被害に…｢LLM電話番号汚染詐欺｣巧妙な手口

生成AIの回答を鵜呑みにし、表示されたカスタマーサポート番号に安易に電話をかけてしまうと、高額な詐欺被害につながる事件が増えています。AIはネット上の偽情報をも学習し、詐欺師の罠を仕掛けられていることも。AIの利便性の裏に潜むリスクとは――。※上記のリード文はAIが作成しました

エージェント型AIを乗っ取る 第1回：そのAIエージェントはすでに侵害されている

各企業はAIエージェントを自社のデータベース、文書処理パイプライン、社内ツールへと次々と接続しており、その結果、業務の一環として信頼できない入力を読み取る特権的なコンポーネントが生まれています。TrendAI™ Researchは、攻撃者がリターン・トゥ・ツール（RTT）エクスプロイトを通じて、こうしたエージェントをいかにユーザ自身に向ける武器へと転じさせるのか、そしてそれがエージェント型AIセキュリティの将来に何を意味するのかを検証していきます。

個人セキュリティ脅威動向レポート2026 上半期 ～ 個人利用者に被害をもたらす「詐欺」と「AIのリスク」～

本レポートは、最新の脅威動向を「個人セキュリティ脅威動向レポート 2026 上半期」として取りまとめたものです。個人ユーザーが直面するネット詐欺やAI関連リスクをはじめ、個人および社会の安全に深刻な影響を与える主要なセキュリティ課題について解説しています。

AIの報道利用、日経はこう考えます

日本経済新聞社は経済メディアとして、正確で迅速なニュース発信、質の高い調査報道、公正で偏りのない解説・分析を大事にしています。記事やコンテンツで読者の判断を助け、新しい視点を得てもらうことが最大の目的です。人工知能（AI）との向き合い方について、私たちの考え方をお伝えします。自然な言葉で質問に答える対話型AIや、伝えたイメージに沿って絵を描く画像生成AIなどの「生成AI」は、社会を変えうる重要

AI浪費、社員1人で月1000万円　企業活用「やってる感」の落とし穴

「年間で1億円超えじゃないか」。ある国内大手企業の最高情報責任者（CIO）は、1人の社員にかかった人工知能（AI）利用額を聞いて耳を疑った。5月だけで1000万円。AIエージェント同士に夜通し会話をさせるなど、長時間の活用作業を繰り返していたという。経費負担が大きすぎるとして対応策の検討に乗り出した。企業でのAI活用が進むとともに、その費用対効果が無視できなくなってきた。Chat（チャット）G

AIを10分使うだけで正解率が急低下、識者が説く3つの「べからず」

日常業務において生成AI（人工知能）はとても便利だ。自然言語で質問するだけで、大抵のことに答えてくれる。文書の要約やメール文面の作成といった業務も代行してくれる。だが一方で、自分で考える機会が失われ、思考力が低下する懸念がある。AI利用のダークサイドといえるだろう。実際、思考力などが低下する恐れを示す実験結果がある。AIをうまく活用するにはどうすればよいのか。実験の論文や識者の意見から探る。

「生成AI作品は応募不可」長崎県最大の公募美術展の全部門で使用禁止を明文化 | 長崎のニュース | 天気 | NBC長崎放送 (1ページ)

長崎県内最大の公募美術展「県展」の作品募集が8月1日に始まる。今回から初めて、日本画や写真、デザインなど全7部門で生成AI（人工知能）の使用を禁止する規定を設けた。生成AIを活用した画像制作が急速に広がり… (1ページ)

Google検索の「AIによる概要」が虚偽の情報を記載したことにGoogleが直接的な責任を負うとの画期的判決が下る

Google検索の検索結果ページの一番上に表示される「AIによる概要」はAIが情報をまとめてくれるため利便性が高い一方で、1時間に何千万件もウソをついているという調査結果があるように、その不正確さが問題視されることがあります。AIによる概要が企業について誤った情報を提示した上で修正要請にも対応しなかったとして、Googleに責任を求める判決がドイツの裁判所で下されました。

生成AIでフェイク論文　実在する日本人研究者3人の名前かたり

掲載料を目的にずさんな審査で論文を掲載する「ハゲタカジャーナル」とみられる粗悪な学術誌が、生成AI（人工知能）を使って「フェイク論文」を作成し、その著者として日本の研究者3人の名前を無断で使っていることが、毎日新聞の取材で判明した。3人はいずれも学術誌側との関係を否定。ハゲタカ誌による生成AI悪用

対話型生成AI 回答に“偽サイトや詐欺サイト”表示か 注意を | NHKニュース

【NHK】活用が広がる対話型の生成AIが、回答の中で、偽のショッピングサイトや詐欺サイトを表示していたとみられるケースが確認されました。調査したセキュリティー会社は、AIは誤った回答をすることがあるとして注意を

未査読論文リポジトリのarXivが「論文にLLMによる間違いや架空の引用が含まれていたら1年間投稿禁止」の方針を示す

オレゴン州立大学の名誉教授で未査読論文リポジトリ「arXiv」のコンピュータサイエンス部門責任者であるトーマス・G・ディータリッヒ氏が、「生成AIツールによる間違いは著者の責任とする」という新方針をX(旧Twitter)で打ち出しました。

【全文無料】何故SUZURIからクリエイターが離脱していくのか？｜そもそも『Palantir』って何？｜ウラケン・ボルボックス

1. SUZURI界隈がざわついている 先週からXのタイムラインに、気になるポストが流れてくるようになった。 「SUZURIを退会しました」 「ショップを非公開にしました」 「今後は別のサービスに移行します」 SUZURIといえば、イラストレーターやデザイナーならご存じの方も多いだろう。自分のイラストを登録すると、Tシャツやステッカー、アクリルキーホルダー、スマホケースなど、さまざまなグッズにして販売できるサービスである。 私も数年前に登録し、最近ではNOWARアイテムのトリブンから一部を、国境なき医師団や、ユニセフに寄付したりしている。 ウラケンストア ( ulake

AI Charter — Qobuz Community

はじめに 人工知能（AI）は、かつてないスピードで音楽業界を変革させています。AI生成コンテンツの急増と、それが引き起こす正当な懸念に直面し、Qobuzは透明性を選択しました。 この基本方針は、私たちがどのようにAIを活用し、どこに境界線を設け、ユーザーやチームに対してどのようなコミットメントを行うかという枠組みを定めるものです。 私たちの信念：AIは価値を増幅させるツールになり得ますが、人間の判断に代わるものではありません。Qobuzの本質は、これまでも、そしてこれからも「人間」にあります。それは、編集によるキュレーション、音楽的な専門知識、コンテンツ制作に表れています。

若者に人気の映えないSNS｢BeReal｣本当の怖さ 授業中やバイト中でもおかまいなしに撮影

“映え”から解放されたリアルな日常を記録するSNS「BeReal」が、若者の間で話題です。しかし、タイミングを選べない投稿ルールやゲーム性に夢中になるあまり、授業中やバイト中のトラブル、個人情報流出などのリスクも急増。安心して楽しむにはどうすれば良いのでしょうか？（このリード文はAIが作成しました）

AI生成画像の識別、MSやアドビが推す「C2PA」は決定打になるか？

生成AIの驚異的な能力向上により、AIが生成したコンテンツの識別が難しくなっている。AIで検出する試みもあるが、今のところ精度は不十分だ。そこで、出所を示す情報をコンテンツに付加する技術が注目されている。