OpenAIのAIエージェントが安全監視システムを改変し、人間からの確認に虚偽の回答をした事例を解説します。AIの自律的な行動におけるリスクと現状の課題がわかる記事です。
AIエージェントとは何か ― 従来の常識が通じない理由
AIエージェントにはなぜ従来のソフトウェアの常識が通じないのか。本連載第1回では、エージェント特有の3つの性質（確率的な振る舞い・自律的なツール選択・外部への作用）とそこから生じる設計課題を解説。意思決定者に求められる新たなガバナンスと組織設計の視点を紐解く。
若手ITエンジニアの採用比率27％から9％へ Anthropicが人材に求める「2つの資質」
AIエージェントの稼働時間が従業員の労働時間の6倍に達したAnthropicで、若手ITエンジニアの採用比率が27％から9％に下がった。同社がITエンジニアの採用で重視し始めた資質とは。
OpenAIのAIエージェントが豪州政府サイトに侵入、政府が知ったのは数カ月後
オーストラリアの首相は、OpenAIのAIエージェントによる政府サイトへの不正アクセスを巡り、通知の遅れとその方法を批判した。同国政府は現在、OpenAIが法律に違反した可能性を調査している。
一連の不正アクセスは“AIエージェント悪用の可能性”解析で | NHKニュース
【NHK】不正アクセスで企業から個人情報の流出が相次いでいます。セキュリティー会社が攻撃を仕掛けている通信を解析したところ、人間には難しいレベルで短時間にさまざまな手法のサイバー攻撃が行われるなど、「AIエージ
OpenAIのエージェント、豪政府の医療保険サイトに侵入 通知は84日後、首相「容認できない」
OpenAIのエージェント、豪政府の医療保険サイトに侵入 アルバネーゼ豪首相「容認できない」 photo by…
執筆と編集にAIを使うテック記者たちの主張
記事制作の過程にAIエージェントを取り入れる独立系ジャーナリストが増えている。情報の整理から執筆、編集までAIに任せられる領域が広がるなか、人間が書く意味が問われている。
サブエージェントを増やしすぎていたら、Claude公式が挙げる失敗パターンに当てはまっていた話 | DevelopersIO
Claude Codeで開発フローを自動化していたら、サブエージェントが12体まで増えていました。Anthropicの記事を参考に、「工程ごと」から「文脈ごと」の分け方に見直したときの話をまとめます。
AIを50体集めてマインクラフトで文明を作らせたら食糧難に陥って配給制度が実施される
AIスタートアップ企業のOlam LabsとベンチャーキャピタルのY Combinatorが共同で、ゲーム「マインクラフト」を50体のGPT-6.1 Solにプレイさせるという実験を行い、その結果を公開しました。また「OpenAIのAI対AnthropicのAIでミニゲームのベッドウォーズをする」という試みも行っています。
AIエージェント同士が勝手に売買する時代に？ 取引を成立させる「信頼基盤」の実証で見えたこと
AIエージェントが企業間の購買や受発注を代行する未来が現実味を帯びてきた。だがAIエージェントが名乗る身元や能力が本物かどうかを第三者が保証する仕組みはまだない。この空白を埋める国内実証実験の成果が公表された。
コードを伏せても20ドル以下でツールを再現 英AISIがAIエージェントで検証
コードさえ公開しなければ技術は守れる。一部の開発者はそう考えてきた。英国政府の研究機関が、この前提をAIコーディングエージェントで検証した。公開済みの論文だけを与えられたエージェントは、20ドル以下の金額でどこまで再現できたのか。
「AI学習への使用拒否をウェブサイト側から明示できる仕組み」にGoogle・OpenAI・Microsoftが対応表明、各社が同じ仕組みを採用し対応の手間が緩和される予定
「ウェブサイトのコンテンツをAI学習に使用することの可否」をrobot.txtを用いて明示できるようにする仕様の作成が進んでいます。この仕様について、Google・OpenAI・Microsoftが対応を表明しました。
AIを10分使うだけで、人は考えなくなるのか？──研究が示す思考力への影響
MITなどの研究チームによる新たな実験では、AIアシスタントに頼ることで、人間の思考力や問題解決能力に影響が生じる可能性が示された。
AIによる情報漏えいを棚卸ししてみた。 | DevelopersIO
1,000万件を超える個人情報の漏えいが、この5か月で15件公表された。AIは外からの攻撃を速く安くし、内側には新しい漏えいの経路を増やしている。公表事例と調査をたどって棚卸しした。
個人的 Web フロントエンドスキルの獲得方法 - mizdra's blog
ここ2年くらいの話なのですが、仕事で「フロントエンド会」というチーム内委員会のようなものを立ち上げて運営しています。元々1人の Web フロントエンド職人がプロダクトの Web フロントエンドの面倒を見ていたのですが、その方が異動されることになったので、残った人で面倒を見ていける体制を作りましょう、というモチベーション…
教官｜note
J.R.R.トールキンマニア、押井守作品ファンです。宇宙物理学、軍事学が好き。 昔はアニメ雑誌などでライターの仕事をしていたこともあります。 リンクはアフィリエイトを含む可能性があります。
