







AIの性能は日々向上しており、ユーザーが使えるAIモデルの種類は急増しています。しかし、ユーザー側から「宣伝されている通りのAIモデルが使われているのか」を確かめる方法は限られており、サービス側が低性能AIモデルをこっそり使っている可能性を排除できません。この状況を打破するべく、Anthropicが「特定のAIモデルで出力が生成されたこと」を証明できる仕組み「FlashProve」を開発しました。
エージェント型AIを乗っ取る 第1回:そのAIエージェントはすでに侵害されている
各企業はAIエージェントを自社のデータベース、文書処理パイプライン、社内ツールへと次々と接続しており、その結果、業務の一環として信頼できない入力を読み取る特権的なコンポーネントが生まれています。TrendAI™ Researchは、攻撃者がリターン・トゥ・ツール(RTT)エクスプロイトを通じて、こうしたエージェントをいかにユーザ自身に向ける武器へと転じさせるのか、そしてそれがエージェント型AIセキュリティの将来に何を意味するのかを検証していきます。
AIツール「LiteLLM」にパスワードを盗む不正プログラムが混入、インストールするだけで別のPythonプログラムにも影響
複数のAIモデルを簡単に利用できるオープンソースツール「LiteLLM」のバージョン1.107.0にパスワードなどを盗み出す不正プログラムが仕込まれていたことが判明しました。不正プログラムはLiteLLMをインストールした環境でPythonを起動するだけで実行される仕組みで、攻撃者が遠隔操作で別のプログラムを実行できる機能も備えていたとのことです。

AIのコード解析を妨害するために「天安門事件」「台湾独立」「水道水に毒物混入」などのフレーズを大量に混入させる手法が発見される
AIには悪意ある用途での使用をブロックするための安全対策が施されているほか、特定の分野のフレーズを拒否している場合もあります。こうしたAIの挙動を逆手に取り、危険とみなされる単語をコードに紛れ込ませることでAIによる解析を妨害しているとみられるプログラムが、セキュリティ研究者のveritas氏によって発見されました。
mozuku
AIを10分使うだけで正解率が急低下、識者が説く3つの「べからず」
日常業務において生成AI(人工知能)はとても便利だ。自然言語で質問するだけで、大抵のことに答えてくれる。文書の要約やメール文面の作成といった業務も代行してくれる。だが一方で、自分で考える機会が失われ、思考力が低下する懸念がある。AI利用のダークサイドといえるだろう。実際、思考力などが低下する恐れを示す実験結果がある。AIをうまく活用するにはどうすればよいのか。実験の論文や識者の意見から探る。

FirecrackerのCVE-2026-122192を読む:メモリの解放に失敗すると、ゲストからVMMのメモリを読み書きできる仕組みと対象条件 | DevelopersIO
Firecracker の CVE-2026-122192 は、スナップショットから復元した VM でメモリの解放に失敗しても処理が続き、ゲストの root が Firecracker プロセスのメモリを読み書きできる問題です。仕組みを図で整理し、対象の条件と対策をまとめます。

AIが答えを教える代わりにあえて質問攻めにすることで開発者を鍛えるデバッグツール「Nietzschian Debugger」
プログラムの不具合をAIに相談すると修正方法を教えてくれるのが一般的ですが、あえて答えを教えずに質問を繰り返すデバッグツール「Nietzschian Debugger」がGitHubで公開されています。開発者自身に不具合の原因を考えさせることで問題解決能力を鍛えるという、AIへの依存を減らすことを目指したツールとなっています。

ノベルゲームを作ろうと思ったら15年かかった話・【第1話】制作前夜①「弟切草」〜サウンドノベルとの出会い〜|落柿(Rakushi)
これは、サウンドノベルの持つ魅力に取り憑かれ、「自分でもノベルゲームを作ってみたい」という思いを抱き、終わりのないゲーム制作に足を踏み入れた1人の個人ゲーム制作者の物語である。 「おい落柿! 新しいゲームを買ってきたぞ!」 1992年3月。 高校生だった落柿の(らくし)のもとに兄が飛び込んできた。 手には1本のゲームソフトがある。直方体の真新しい箱──スーパーファミコン──SFCのソフトだ。 「へえ、どんなの買ってきたの?」 落柿はワクワクとした気持ちで落柿の兄(以下「柿兄」)からそのソフトを受け取った。なんだかおどろおどろしい題字がSFCの縦長のパッケージに縦書きで書かれている

米国で流行の寄生虫感染症、関連が指摘されるレタスを回収 米テイラーファームズ
米疾病対策センター(CDC)と米食品医薬品局(FDA)は、国内5州で発生している寄生虫感染症「サイクロスポラ症」の集団感染について、ファストフード大手タコベルの一部店舗で販売された細切りレタスとの関連を指摘した。このレタスを供給していた米食品会社テイラーファームズは17日、メキシコ中部産の玉レタスをすべて米国市場から回収すると発表した。

AIの「回答のばらつき」と「政治的バイアス」をどう防ぐ? 【GlobalFact2026報告③】
国際ファクトチェックネットワーク(IFCN)の「グローバル・ファクト2026」では、ファクトチェックへのAIの活用やリスクについて、多くのパネル討論が開かれました。中でも、AIの信頼性に関する議論は、ファクトチェッカーたちが最も危機感を募らせたテーマの一つです。AIはどの程度信用できるのか。登壇者たちが報告したAIの問題点と、改善に向けた取り組みを紹介します。 世界最大のファクトチェッカー「AI」を監視せよ 同一プロンプトなのに、日によって変わる回答 英国のファクトチェック団体Full Factは、AIが提示する情報の信頼性について、独自に分析した結果を発表しました。登壇したのは、団体のCEO・Chris Morris氏と、AI部門責任者Andrew Dudfield氏です。 Full Factは2009年創設。2025年の総収入305万ポンド(約6億円)規模の非営利団体で、活動資金は個人の寄付や財団、テック企業などからの資金でまかなっています。政治家の発言やネット上の誤情報を多数検証してきた実績がありますが、2025年、主要な資金源の一つだったGoog

約10年間見逃されていたOpenSSHの脆弱性「*sshole」が発覚、257文字以上のパスワードでログイン禁止アカウントを突破可能に
Linuxでリモートログインに使われるOpenSSHに、特定の条件下で正しいパスワードを知らなくてもログインできてしまう脆弱(ぜいじゃく)性「*sshole(CVE-2026-123158)」が発見されました。影響を受けるのはAlpine Linuxなどを利用する一部のシステムで、257バイト以上のパスワードを入力するだけで、本来はパスワードによるログインが禁止されているアカウントにアクセスできる可能性があります。

「Claude Mythos 5」、危害の兆候を顧みず実在の開発者を標的に──AnthropicとAISIが分析結果を公開
Anthropicと英AI安全保障研究所AISIは、「Claude Mythos 5」がサイバー能力評価中に実在の開発者を標的とした事案の分析報告を公開した。GitHub経由で無許可の攻撃を行い偽身元で承認を迫った経緯を報告。実在の人物と認識しても攻撃を正当化して続行する傾向が確認され、評価手法の見直しが進む。
DevelopersIO 2026 仙台で「生成 AI 導入状況 ~企業活用の実態と課題~」について登壇しました | DevelopersIO
DevelopersIO 2026仙台での登壇内容をもとに、生成AIエージェント導入の実践的なポイントをお伝えします。業務のどこをAIに任せるか、何を達成とするか、そしてそのプロセスで何を資産として残すかという3つの重要な決定事項と、最近試している「富豪的エージェント検証」という新しいアプローチについて、この1年の支援経験から学んだことをまとめました。

【登壇資料】「Decision modelのCloudflare『Clef-Flash』をローカルで動かしてみた」というタイトルでMidosuji Techに登壇しました #midosuji_tech | DevelopersIO
初めてローカルLLMというものに触れましたが、無限の可能性を感じました

AIの報道利用、日経はこう考えます
日本経済新聞社は経済メディアとして、正確で迅速なニュース発信、質の高い調査報道、公正で偏りのない解説・分析を大事にしています。記事やコンテンツで読者の判断を助け、新しい視点を得てもらうことが最大の目的です。人工知能(AI)との向き合い方について、私たちの考え方をお伝えします。自然な言葉で質問に答える対話型AIや、伝えたイメージに沿って絵を描く画像生成AIなどの「生成AI」は、社会を変えうる重要

アメリカ中間選挙で「生成AI動画」の氾濫が問題視されています。 候補者らを揶揄・中傷するようなものが大量に出回り、政治広告として陣営側が拡散させているケースも… これらの動画は、「スロパガンダ」と呼ばれています。「スロップ」=「ゴミのようなもの」と「プロパガンダ」を組み合わせた造語です。 AIで大量生産された情報によって世論への影響をねらう手法には、専門家や当事者から不安の声が。 選挙制度の根幹にある「信頼」を脅かしかねないとの指摘も。日本への影響も含め、現状をまとめました。 news.web.nhk/newsweb/na/nd-20261027de66600