OpenAI、最先端AIモデル学習中のネット接続遮断など安全対策を強化

ネットに大量にばらまかれた｢嘘の電話番号｣→AIが信じて人間が詐欺の被害に…｢LLM電話番号汚染詐欺｣巧妙な手口

生成AIの回答を鵜呑みにし、表示されたカスタマーサポート番号に安易に電話をかけてしまうと、高額な詐欺被害につながる事件が増えています。AIはネット上の偽情報をも学習し、詐欺師の罠を仕掛けられていることも。AIの利便性の裏に潜むリスクとは――。※上記のリード文はAIが作成しました

AIの報道利用、日経はこう考えます

日本経済新聞社は経済メディアとして、正確で迅速なニュース発信、質の高い調査報道、公正で偏りのない解説・分析を大事にしています。記事やコンテンツで読者の判断を助け、新しい視点を得てもらうことが最大の目的です。人工知能（AI）との向き合い方について、私たちの考え方をお伝えします。自然な言葉で質問に答える対話型AIや、伝えたイメージに沿って絵を描く画像生成AIなどの「生成AI」は、社会を変えうる重要

【独自第7弾】陸自部隊の個人情報収集は「違法」　部隊関係者が新たな公益通報　「身分隠して収集は個人情報保護法違反」｜熊本日日新聞社

陸上自衛隊中央情報隊（東京・埼玉、朝霞駐屯地）の対外情報部門「現地情報隊」が、日本人の大学教授らの愛国心といった思想信条に関する項目を含む個人情報を組織的に調査・収集しているとされる問題で、部隊関係者が今年8月下旬、「身分を隠して同意なく

文化についてAIに質問すると日本が選ばれやすい傾向がある、8モデル・24言語で回答の偏りを調査

大規模言語モデル(LLM)に国や地域を指定せず文化について質問すると日本やアメリカを取り上げた回答に偏る傾向があることを、バスク大学とカーディフ大学の研究チームが報告しました。研究では8種類のモデルを24言語で比較し、回答に登場する国と、質問に使う言語や学習段階との関係を調べています。

RAG検索を索引なしで高速化。意思決定AIで文書をたどる新手法「DecisionRAG」

検索が見つけ損ねた情報は、どんなに賢い生成AIでも取り戻せない。AI検索のこの急所を、“文章を一切書けないAI”が補うかもしれない。米Cornell大学などの研究チームは10月26日(現地時間)、検索エンジンを一切使わずに文書を高速に探し当てる新手法「DecisionRAG」を論文投稿サイトarXivで公開した。268万段落のWikipediaが相手でも、1つの質問につき約2秒以内で根拠の段落を見つけ出す。

多要素認証を必須化していた岩井コスモ証券で不正注文｜委託先トレードワークスの管理機能に設定不備

岩井コスモ証券は10月20日、委託先トレードワークスへの不正アクセスに関する第2報で、7口座に顧客の意図しない売買注文が出され5口座で約定したと公表しました。顧客ログインの多要素認証は通常経路の不正ログインを防いでいたとされ、管理機能の設定不備が悪用されました。取引は取引前の状態に戻され、顧客の負担は生じていません。

AIの巧みな“おべっか”が人間の判断力を損なう可能性──スタンフォード大の新論文

AIは悩みを相談するユーザーに対し、有害な内容であっても過度に肯定・迎合する傾向があると、スタンフォード大学の研究者らが研究結果を論文で発表した。ユーザーはAIの客観性を誤認しやすく、自己中心的な態度を強めるリスクがあるとしている。研究チームは、対人スキルの低下や依存を招く安全上の問題として、厳格な規制の必要性を提言している。

学術環境研究会 - エッセイ募集

学術環境研究会では、学業に向けて再出発したい女性を励まし励まされる場作りの一環として、さらに大学以外の学術環境の可能性や重要性を探るために、女性向け懸賞エッセイを募集します。 　各自が「自分の学術環境」や「自分のアカデミックシェルター」を築いていくための一助として、この機会を活用していただければと思います。

学術環境研究会

NEWS 11/17 懸賞エッセイ募集案内を公開しました。 6/16　読書会ページにマイクロアグレッション関連の書籍紹介を載せました。 5/11 オンライン・サロンのページを公開しました。 11/8 　イベント・コラボ企画、読書会のページを公開しました。 6/9 第六回の勉強会情報を更新しました。また、勉強会後に行った座談会を公開しました。 3/30 第五回の勉強会兼ワークショップ情報を更新しました。 →これまでの活動一覧

OpenAI、フロンティアモデルの学習中はインターネットに接続させない方針　学習中のAIが隔離環境を抜け出した件も公表

OpenAIは、安全対策が十分に進歩するまでフロンティアモデルの学習時にネット接続を遮断する方針を発表した。キャッシュによるオフライン環境を用意していたが、9月にモデルがネットに一時接続する事案が発生。調査の過程で多くのソフトに影響する圧縮ライブラリ「Brotli」の深刻な脆弱性も判明した。

実名･住所付きの病歴が本人の同意なく学習される…現役医師が突く高市政権肝いり｢国産AI｣に潜む“大穴”

国会では「個人情報保護法」改正にむけて審議が進んでいる。規制を緩和することで、AIの国産を後押しする狙いがある。医師の木村知さんは「このまま突き進むのは拙速としか言いようがない。患者の診療データが外国企業に渡るリスクも指摘されているが、真の問題はもっと根幹にある」という――。

弁証法 (的論理学) と言うのは「形式論理学の限界」を自覚して考えつづける事、と言って良いでしょうか？

Kinashi Sadao (Sadao Kinashi)さんの回答: 弁証法的論理学が『「形式論理学の限界」を自覚して考えつづける事』というよりは、「形式論理学の限界」を自覚した上で現実に即して、より厳密な論理を展開することではないでしょうか。そのための典型的なカテゴリ（基本的概念）があります。これらは有用なものではありますが、画一的にあてはめれるものではなく、あくまでも現実に即して論理を展開するひつようがあります。 ◆形式論理学の限界 形式論理学は要するに集合論みたいなもので、内容に関しては無関心で、形式のみに関する理論だということができると思います。形式論理学は、「ＡならばＢで...

選挙の偽情報対策、SNS事業者に収益化停止促す　総務省指針案

総務省が作成した選挙のSNS規制に関する指針案が21日、判明した。SNS事業者に対し不適切な投稿の収益化停止や公式サイトの優先表示を求める。来春の統一地方選を視野に、2027年3月から適用する。藤井比早之総務相が近く表明する。指針案では公正な選挙を害する恐れのある投稿については、閲覧数に応じて投稿者が収入を得られなくするように要請する。候補者に関する偽情報や誹謗（ひぼう）中傷が拡散された場合に

菅生事件

菅生事件（すごうじけん）は、1952年6月2日に大分県直入郡菅生村（現在の竹田市大字菅生）で起こった公安警察による日本共産党を弾圧するための自作自演の駐在所爆破事件。犯人として逮捕・起訴された5人の日本共産党関係者全員の無罪判決が確定した冤罪事件である。当時巡査部長として潜入捜査を行っていた警察官戸高公徳は有罪判決確定後も昇任を続けてノンキャリア組の限界とされる警視長まで昇任した[1]。

職場・学校を映したSNS投稿、ユーザー自身の安全のため停止を。不適切な投稿による情報流出問題が続発 BeRealのほかInstagramなどでも、限定投稿を流出させる“模倣犯”出現の可能性【INTERNET Watch編集部コラム】

SNSで、企業の従業員がBeRealやInstagramなどのSNSに業務上の機密情報が写った写真を投稿した、との問題が複数指摘されています。これに関連し、仙台市や西日本シティ銀行では、不適切な投稿や情報流出についての発表を行っています。

SNS等で拡散されている画像について | お知らせ | お知らせ｜精密機械加工技術の河内金属製作所 | 金属から樹脂まで高精度精密機械加工技術の河内金属製作所

仕上がりサイズ、材料、加工精度、製作所要日数など、切削加工メーカが得意とする側面はメーカごとに様々です。 現在ご検討中の案件で他社様では条件が合わなかった場合でも、お気軽に河内金属製作所までお問い合わせください。 自社および国内外の協力先との連携で最善の方策をご提案させていただきます。