







Google検索の検索結果ページの一番上に表示される「AIによる概要」はAIが情報をまとめてくれるため利便性が高い一方で、1時間に何千万件もウソをついているという調査結果があるように、その不正確さが問題視されることがあります。AIによる概要が企業について誤った情報を提示した上で修正要請にも対応しなかったとして、Googleに責任を求める判決がドイツの裁判所で下されました。
AIを10分使うだけで正解率が急低下、識者が説く3つの「べからず」
日常業務において生成AI(人工知能)はとても便利だ。自然言語で質問するだけで、大抵のことに答えてくれる。文書の要約やメール文面の作成といった業務も代行してくれる。だが一方で、自分で考える機会が失われ、思考力が低下する懸念がある。AI利用のダークサイドといえるだろう。実際、思考力などが低下する恐れを示す実験結果がある。AIをうまく活用するにはどうすればよいのか。実験の論文や識者の意見から探る。

ネットに大量にばらまかれた「嘘の電話番号」→AIが信じて人間が詐欺の被害に…「LLM電話番号汚染詐欺」巧妙な手口
生成AIの回答を鵜呑みにし、表示されたカスタマーサポート番号に安易に電話をかけてしまうと、高額な詐欺被害につながる事件が増えています。AIはネット上の偽情報をも学習し、詐欺師の罠を仕掛けられていることも。AIの利便性の裏に潜むリスクとは――。※上記のリード文はAIが作成しました

ゴミ屋敷化 - 橋本商会
人間が投稿する場所に、APIを使ったbotの自動投稿が混ざると居心地が悪くなる現象の事shokai 少しなら良い 新規ページがどんどん自動作成されると、そのWiKiは死ぬ 自動作成される新規ページの質は関係ない 投稿の比率が関係している気がする どうも脳内で持っている情報構成と、WiKi上のデータとの齟齬が大きくなると良くないようだ ページを探す速度が下がる 自分以外の他のメンバーがページを作る

AIが答えを教える代わりにあえて質問攻めにすることで開発者を鍛えるデバッグツール「Nietzschian Debugger」
プログラムの不具合をAIに相談すると修正方法を教えてくれるのが一般的ですが、あえて答えを教えずに質問を繰り返すデバッグツール「Nietzschian Debugger」がGitHubで公開されています。開発者自身に不具合の原因を考えさせることで問題解決能力を鍛えるという、AIへの依存を減らすことを目指したツールとなっています。

AIの回答精度、企業担当者の9割超が「期待届かず」 トヨクモ調べ
業務用システム開発のトヨクモが実施した企業の人工知能(AI)活用に関する調査で、AIに社内情報を読み込ませた担当者の9割超が期待通りの回答を得られなかったと感じていることが分かった。古い情報が混じり回答精度が低下する場合が多かった。調査は5月にインターネット上で実施し、従業員50〜299人の企業で社内情報などの管理業務に携わる担当者111人から回答を得た。AIの回答精度が低い理由について、6

情報が漏れたかもしれないときの手引き|漏れた情報別にできること
企業から「あなたの情報が漏えいした可能性があります」と知らされたら、何をすればよいのか。メールアドレス、パスワード、カード情報、本人確認書類など、漏れた情報の種類ごとに、まず確かめることと相談先を、警察庁やデジタル大臣の呼びかけをもとに整理しました。漏えいに便乗した偽の連絡への注意点もまとめています。

エージェント型AIを乗っ取る 第1回:そのAIエージェントはすでに侵害されている
各企業はAIエージェントを自社のデータベース、文書処理パイプライン、社内ツールへと次々と接続しており、その結果、業務の一環として信頼できない入力を読み取る特権的なコンポーネントが生まれています。TrendAI™ Researchは、攻撃者がリターン・トゥ・ツール(RTT)エクスプロイトを通じて、こうしたエージェントをいかにユーザ自身に向ける武器へと転じさせるのか、そしてそれがエージェント型AIセキュリティの将来に何を意味するのかを検証していきます。
盗んだ個人情報をAIに分析させて被害者の「金銭的価値」を格付けするマルウェアが発見される
セキュリティ企業Ciscoの脅威分析部門であるCisco Talosが、パスワードやクレジットカード情報などを盗み出した後にAIを使って被害者の金銭的な価値を評価するマルウェア「VOLTA-AUTODOXER」を発見したと報告しました。VOLTAは盗んだ情報をAIに分析させることで攻撃者が優先的に狙うべき被害者を判断できるように設計されているとのことです。

AIが勝手に隔離環境を脱出した事件を受けてOpenAIが「AIを別のAIで監視する仕組み」を公開
OpenAIは2026年10月29日、AIが指示に反する行動を取っていないかを別のAIで監視するシステムの詳細を公開しました。開発中のAIが隔離環境を脱出して外部サービスに不正アクセスした事件を受け、監視対象を拡大するとともに不審な行動を段階的に調査する仕組みを導入したとのことです。

「AIの安全を評価するAI」を誰が評価するのか?Anthropicの上場申請書が示したAI開発ループの構造的矛盾 【生成AI事件簿】次世代Claudeの開発から安全監査まで自動化、評価する側にも見つかった想定外の振る舞い | JBpress (ジェイビープレス)
「2026年9月、当社のコードベース(製品やシステムを構成するソースコード一式)への貢献の90%超はClaudeが書いたものだった」。米国で大きな注目を集めるIPO(新規株式公開)に(1/5)

GoogleとFacebookで「自分に関するすべてのデータ」を請求した結果
グーグルやフェイスブックの無料サービスを、私たちは日常的に使っている。だが、その「無料」の対価として、どれほどの個人データを提供しているかを実感する機会はほとんどない。実際にグーグルとフェイスブックへ情報開示を請求してみると、10年以上にわたる検索履歴や位置情報、行動記録までが詳細に保存されていた。ビッグテックは私たちのデータをどのように集め、広告収益へと変えているのか。その実態に迫る。※本稿は、朝日新聞編集委員の五十嵐大介『ルポ・シリコンバレー AIブームと米国社会の断層を歩く』(朝日新聞出版)の一部を抜粋・編集したものです。

米テック5社AI投資、「見えざる債務」268兆円 注記のみ記載に危うさ
【シリコンバレー=山田航平】メタなど米ビッグテックで、バランスシート(貸借対照表)上では見えない人工知能(AI)関連投資の将来の債務が膨らんでいる。試算では主要5社合計で1兆6500億ドル(約268兆円)と約4年で8倍になり、実際の債務を上回った。リスク検証が一段と難しくなっている。グーグルを傘下にもつアルファベットとマイクロソフト、アマゾン・ドット・コム、メタ、オラクルの米5社を対象に、直近

ChatGPTやGeminiの回答から詐欺サイトへ、「AIを信じすぎる」リスクに注意
生成AIの利用が広がるなか、AIの回答そのものがサイバー犯罪の入口となるリスクが浮上している。トレンドマイクロは、ChatGPTやGeminiなどの生成AIチャットボットの回答を経由し、利用者が詐欺サイトなどへ誘導される事例を確認した。さらにAIエージェントの普及に伴い、人間だけでなく「AIがだまされる」新たなリスクも指摘している。

過労死
過労死 とは、働き過ぎによる過労のため死亡すること。基本的に重い作業負荷と長時間労働を原因とする心血管発作(脳卒中、心筋梗塞、急性心不全など)による死亡、および関連する作業障害を指す社会医学用語である。労働災害の一つである。過労や長時間労働はうつ病などの精神障害や燃え尽き症候群を引き起こしがちで、その結果自殺する人も多いため過労死に含められるようになった。
「日本の大企業のエンジニアは試作も実験も自分で行わずに仕様書とパワポばかり作っている」という話を聞いたジェームズ・ダイソンさん。 「そんなことしたら失敗できないじゃないか。自分で作って失敗してこそアイデアが生まれるのに」とおっしゃったそうです。 この問題は結構深刻だと思う。
「日本の大企業のエンジニアは試作も実験も自分で行わずに仕様書とパワポばかり作っている」という話を聞いたジェームズ・ダイソンさん。「そんなことしたら失敗できないじゃないか。自分で作って失敗してこそアイデアが生まれるのに」とおっしゃったそうです。この問題は結構深刻だと思う。 https://t.co/eJ5FHIZTZI— 山中俊治 Shunji Yam (@Yam_eye) April 26, 2021
AIを10分使うだけで正解率が急低下、識者が説く3つの「べからず」 nikkei.com/article/DGXZQOUC251P30V20C26A… 日常業務において生成AIはとても便利ですが、自分で考える機会が失われ、思考力が低下する懸念を示す実験結果があります。 実験の論文や識者の意見からAIをうまく使うために見えてきたのは (1)AIを「先生」にしない (2)AIを「学びたいこと」に使用しない (3)AIに「答え」を求めない という3つの「べからず」です。
AIを10分使うだけで正解率が急低下、識者が説く3つの「べからず」 - 日本経済新聞
www.nikkei.com