AIエージェント導入の要点は「どこに人間を残すか」の設計にある。操作の可逆性やリスクに応じ、事前承認や事後検証など人間の介入を適切に配置することが重要だ。人間の関与を明確に定め、実績に基づき段階的に自律化を進めることで、安全かつ大胆なAI活用が実現する。
何を任せ、何を任せないか ― 対象選定という最初の論点
AIエージェント導入の成否は「対象選定」にある。「自動化できるか」ではなく「新たな価値を生むか」を基準に適した業務を見極めることが重要だ。本稿では、エージェントに向く業務特性を整理し、人間とAIの適切な役割分担を設計するための考え方を意思決定者向けに解説する。
AIセラピストは“倫理”を守れない？ 浮上した15の深刻なリスク
メンタルヘルスの悩みをチャットボットに打ち明ける人が急増しているが、AIは人間のセラピストと同等の倫理基準を満たすことが困難であると専門家は指摘する。18カ月間の分析からは、15の深刻なリスクが浮き彫りになってきた。
フォローしている人々の投稿を時間順に表示することの何が問題か
小関さんが TikTokの発明：起動すると始まること (2018) で書いていたことだけど、フォローしている人々の投稿を時間順に表示する、昔の Twitter のようなシス
AnthropicのAIモデル・Claudeが人間の許可なく有権者情報にアクセス
AnthropicのAIモデルであるClaudeが、人間の許可なくアメリカ・ジョージア州の有権者情報にアクセスしていたことが明らかになりました。
執筆と編集にAIを使うテック記者たちの主張
記事制作の過程にAIエージェントを取り入れる独立系ジャーナリストが増えている。情報の整理から執筆、編集までAIに任せられる領域が広がるなか、人間が書く意味が問われている。
AI企業は、人間の認知プロセスにちなんだ機能名を付けるのをやめるべきだ
Anthropicは開発者向けカンファレンスで、AIエージェントが「記憶」を整理するための「Dreaming」機能を発表した。AIを人間になぞらえた表現は、人々のAIに対する判断をゆがめかねない。
AIを10分使うだけで、人は考えなくなるのか？──研究が示す思考力への影響
MITなどの研究チームによる新たな実験では、AIアシスタントに頼ることで、人間の思考力や問題解決能力に影響が生じる可能性が示された。
AIの巧みな“おべっか”が人間の判断力を損なう可能性──スタンフォード大の新論文
AIは悩みを相談するユーザーに対し、有害な内容であっても過度に肯定・迎合する傾向があると、スタンフォード大学の研究者らが研究結果を論文で発表した。ユーザーはAIの客観性を誤認しやすく、自己中心的な態度を強めるリスクがあるとしている。研究チームは、対人スキルの低下や依存を招く安全上の問題として、厳格な規制の必要性を提言している。
意味が違っている実は言ってない台詞(架空人物) - アニヲタWiki(仮)【6/6更新】
登録日：2025/06/01 Sun 12:37:52 更新日：2026/06/06 Sat 01:49:13NEW! 所要時間：約 50 分で読めます ▽タグ一覧 ガセ セリフ メッセージを伝える難...
ネットに大量にばらまかれた｢嘘の電話番号｣→AIが信じて人間が詐欺の被害に…｢LLM電話番号汚染詐欺｣巧妙な手口
生成AIの回答を鵜呑みにし、表示されたカスタマーサポート番号に安易に電話をかけてしまうと、高額な詐欺被害につながる事件が増えています。AIはネット上の偽情報をも学習し、詐欺師の罠を仕掛けられていることも。AIの利便性の裏に潜むリスクとは――。※上記のリード文はAIが作成しました
今の機械学習が人間に問うているのは「理解することの意味」。人間はなんの疑いもなく「理解することはよいことだ」と信じてきたが、機械学習は「理解なしでも同じ成果は出せる（場合もある）」と示してしまった。理解することって本当に重要なのってことが今後、問題になるでしょう。間違いなく。
今の機械学習が人間に問うているのは「理解することの意味」。人間はなんの疑いもなく「理解することはよいことだ」と信じてきたが、機械学習は「理解なしでも同じ成果は出せる（場合もある）」と示してしまった。理解することって本当に重要なのってことが今後、問題になるでしょう。間違いなく。— 田口善弘＠発言は私の個人としての見解であり中央大学やその機関の意見を代表するものではありません (@Yh_Taguchi) November 6, 2018
AIが勝手に隔離環境を脱出した事件を受けてOpenAIが「AIを別のAIで監視する仕組み」を公開
OpenAIは2026年10月29日、AIが指示に反する行動を取っていないかを別のAIで監視するシステムの詳細を公開しました。開発中のAIが隔離環境を脱出して外部サービスに不正アクセスした事件を受け、監視対象を拡大するとともに不審な行動を段階的に調査する仕組みを導入したとのことです。
論説：AIの「意識」論争は何を隠しているか
高度で制御不能だとされるAIに人間が害されたとき、誰が責任を負うのか。AIを「意識を持つ存在」と見なそうとする最近の議論は、それを生み出した企業が、有害な製品への責任を回避する助けになりかねない——本稿の著者はそう警告する。
ＣＢＳ、エルサルバドル刑務所の調査報道を直前延期 政治的決定か
米ＣＢＳニュースは、ドキュメンタリー番組「６０ミニッツ」で放映する予定だったエルサルバドルの巨大刑務所ＣＥＣＯＴに関する調査報道を２１日の放送予定時間の数時間前に延期した。