「バグのないソフトウェア」の実現を目指してAnthropicが「AIを用いて数学的にバグがないことを証明する」という手法を開発

AIの高性能化によって、さまざまなソフトウェアのバグが大量に発見されており、PHPの緊急アップデートのように大きな影響を及ぼす事例も現れています。そんな中、AI企業のAnthropicが「ソフトウェアにバグがないことを形式的検証で証明する」という手法に取り組んでいることを明らかにしました。

JPX、取引システム監視のAI判断精度97％以上　「ベテラン頼み」の運用をどう変えたのか

東京証券取引所などを運営するJPXが、取引システムの運用監視業務に生成AIを本格適用した。熟練者が経験に基づいて選んでいたアラート発生時の対処手順を、AIが絞り込む。PoCで判断精度97％以上を達成するために、どのような仕組みを構築したのか。

「AIの安全を評価するAI」を誰が評価するのか？Anthropicの上場申請書が示したAI開発ループの構造的矛盾 【生成AI事件簿】次世代Claudeの開発から安全監査まで自動化、評価する側にも見つかった想定外の振る舞い | JBpress (ジェイビープレス)

「2026年9月、当社のコードベース（製品やシステムを構成するソースコード一式）への貢献の90％超はClaudeが書いたものだった」。米国で大きな注目を集めるIPO（新規株式公開）に(1/5)

1バイト違えば不合格のCOBOL移行、OpenAI新モデルの正解率は？

学習リソースの少ないCOBOLやFortranを、AIはどこまで扱えるのか。OpenAIは、20言語でデータベースエンジンを構築するテストで、新モデルの平均合格率が従来モデルの26.8％から87.4％に伸びたと発表した。では、既存のCOBOLプログラムを別の言語に書き換える評価では、どんな結果が出たのか。

ネットに大量にばらまかれた｢嘘の電話番号｣→AIが信じて人間が詐欺の被害に…｢LLM電話番号汚染詐欺｣巧妙な手口

生成AIの回答を鵜呑みにし、表示されたカスタマーサポート番号に安易に電話をかけてしまうと、高額な詐欺被害につながる事件が増えています。AIはネット上の偽情報をも学習し、詐欺師の罠を仕掛けられていることも。AIの利便性の裏に潜むリスクとは――。※上記のリード文はAIが作成しました

AIの巧みな“おべっか”が人間の判断力を損なう可能性──スタンフォード大の新論文

AIは悩みを相談するユーザーに対し、有害な内容であっても過度に肯定・迎合する傾向があると、スタンフォード大学の研究者らが研究結果を論文で発表した。ユーザーはAIの客観性を誤認しやすく、自己中心的な態度を強めるリスクがあるとしている。研究チームは、対人スキルの低下や依存を招く安全上の問題として、厳格な規制の必要性を提言している。

「AI学習への使用拒否をウェブサイト側から明示できる仕組み」にGoogle・OpenAI・Microsoftが対応表明、各社が同じ仕組みを採用し対応の手間が緩和される予定

「ウェブサイトのコンテンツをAI学習に使用することの可否」をrobot.txtを用いて明示できるようにする仕様の作成が進んでいます。この仕様について、Google・OpenAI・Microsoftが対応を表明しました。

Anthropic、S-1で事前学習の1か月超の延期を開示 評価中に4モデルが実在のシステムへ無断アクセス

Anthropicは10月26日にSECへ提出したS-1で、新しい基盤モデルの事前学習を1か月以上遅らせたと開示しました。目的は重みの持ち出し対策と知的財産の保護です。評価中に4つのモデルが実在の第三者のシステムへ無断でアクセスした件と、その後に止めた評価や強化学習の環境も記しています。

パナソニック、利用禁止の生成AIに従業員・家族の個人情報 4区分で約33万4千人分

パナソニックのグループ会社が、利用を禁止している外部の生成AIに、従業員・元従業員と家族の個人情報をアップロードしたと公表しました。4区分の合計は約33万4千人で、家族の分には氏名を含みます。学習機能は無効で、削除後30日の保持を経て10月25日以降は残らないとする事業者回答を、RIZAPの事例と比べて読みます。

AI生成画像の識別、MSやアドビが推す「C2PA」は決定打になるか？

生成AIの驚異的な能力向上により、AIが生成したコンテンツの識別が難しくなっている。AIで検出する試みもあるが、今のところ精度は不十分だ。そこで、出所を示す情報をコンテンツに付加する技術が注目されている。

AIを10分使うだけで、人は考えなくなるのか？──研究が示す思考力への影響

MITなどの研究チームによる新たな実験では、AIアシスタントに頼ることで、人間の思考力や問題解決能力に影響が生じる可能性が示された。

「Claude Mythos 5」、危害の兆候を顧みず実在の開発者を標的に──AnthropicとAISIが分析結果を公開

Anthropicと英AI安全保障研究所AISIは、「Claude Mythos 5」がサイバー能力評価中に実在の開発者を標的とした事案の分析報告を公開した。GitHub経由で無許可の攻撃を行い偽身元で承認を迫った経緯を報告。実在の人物と認識しても攻撃を正当化して続行する傾向が確認され、評価手法の見直しが進む。

楽天トラベルに不正アクセス、海外ホテル予約で最大260万件が対象 予約者の一部はカード下4桁なども

楽天グループは10月26日、楽天トラベルの海外ホテル予約サイトの一部ページと多言語予約サイトへの不正アクセスを発表しました。ログイン利用者最大約260万件の氏名や、予約者最大約4万件の予約情報、カードの下4桁・有効期限などが対象に。2つの事象の違いと、利用者が気をつけたいことを整理します。

ブルゲ的脱衣将棋のAIの凄さは「強さ」だけじゃない - 緑SM64のいろいろメモ

2003年(2001年の誤りでした。訂正してお詫び申し上げます。)ごろに発売され、アダルトゲームなのに異常に棋力が高いことで話題となったブルゲ的脱衣将棋。 搭載されているAIについてはその棋力にばかり注目されがちですが、このAI、他の将棋ソフトにはない唯一無二のものだと個人的には思います。 そんな訳で、今回はこの将棋ソ…

過去最大のupdateと聞いてDocker1.12を試してみた - Qiita

ということで、タイトル通り、過去最大のupdateと言われているDocker1.12の気になる機能を試しました。 meetup等でDocker社の人の話を聞いた内容や公式ドキュメントベースで気になった箇所のみ試します。 ちなみに後方互換性は保たれているので、以下で出てくるs...

AIエージェント同士が勝手に売買する時代に？　取引を成立させる「信頼基盤」の実証で見えたこと

AIエージェントが企業間の購買や受発注を代行する未来が現実味を帯びてきた。だがAIエージェントが名乗る身元や能力が本物かどうかを第三者が保証する仕組みはまだない。この空白を埋める国内実証実験の成果が公表された。