今宵のサイバーセキュリティについて気になること：アフターコロナのセキュリティ対策、スカイネットはすでに存在しますか?、生成AIサービスの利用に関する注意喚起、macOS脆弱性Migraineなど

アフターコロナのセキュリティ対策

Hardning Drivers Confarence 2021で「テレワークのセキュリティ対策」と題して登壇してから約2年が経過しました。

Tech Day: OpenMic Lightening Talk「テレワークのセキュリティ対策」

今度はテーマ「アフターコロナのセキュリティ対策」～見落としがちなセキュリティ対策総点検～と題して、NTTコミュニケーションズ様のセミナー に登壇致します！

🗳️参加者の皆さんとWebex投票機能を使って点検したいと思います。
開催日時：2023年6月15日（木）15:00〜17:00
お申し込みはこちらから👇
https://dm.ntt.com/jp_mk2g_20230615_eve-reg
フォロワーの皆様の、ご参加をお待ちしております！

＜セミナー説明＞ 
新型コロナウイルス感染症が5類に移行して、引き続きテレワークを継続する企業がある一方で、感染対策を意識しながらも徐々に新型コロナ流行前の働き方へ戻す企業も多いかと思います。また、多くの企業ではどちらの働き方も混在する環境が続くことも予想され、今年度は本格的な働き方の多様化や環境の変化が始まることにより、セキュリティのリスクも高くなると考えられます。そこで、本セミナーでは“6つの視点”から網羅的にセキュリティ対策について解説しますので、セミナーを通じてご自身の会社のセキュリティ対策総点検を行っていただけたらと思います。

なお、前職で2013年頃からNTTコミュニケーションズのBHECやCloudnを導入していたこともあり、ご縁を感じます。 第２部は、NTTコミュニケーションズ様より、以下の商品説明があります。

どうぞよろしくお願いいたします。

AI – スカイネットはすでに存在しますか?

AI – スカイネットはすでに存在しますか? USAF ハミルトン大佐による思考実験ですが、SAMの破壊が好ましい選択肢であると「強化学習」したため、AIは人間による「NG」の決定がより優先度の高い目的、つまりSAMの破壊を妨げているオペレーターを攻撃しました。
SF小説のような例え話ですが、つまり「倫理とAIについて議論しないのであれば、人工知能、知能、機械学習、自律性について話し合うべきではありません」と付け加えました。

なおUSAF ハミルトン大佐による思考実験を事実と混同してしまう人も多いため追記されております。 ”ハミルトン大佐は、王立航空協会FCASサミットでのプレゼンテーションで「誤解を招いた」ことを認め、「不正AIドローンシミュレーション」は、実際の米空軍の実世界シミュレーションではなく、起こりうるシナリオと予想される結果に基づいた、軍外部の仮説的な「思考実験」である”と述べています。

Highlights from the RAeS Future Combat Air & Space Capabilities Summit

信頼と人工知能 日本語抄訳

生成AIサービスの利用に関する注意喚起等について

個人情報保護委員会よりOpenAIに対して、ChatGPTを利用した要配慮個人情報の取得について「生成AIサービスの利用に関する注意喚起等について」が発表されました。

なおサービス利用者も、生成 AI サービスを提供する事業者の 利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容等を踏まえ、適切に判断することとしております。

オープンソースの弱いLM（Alpaca、Self-Instructなど）を安価に改善、ChatGPTとは大きな能力差

The False Promise of Imitating Proprietary LLMsによれば、オープンソースの弱いLM（Alpaca、Self-Instructなど）を安価に改善する方法として、ChatGPTのクローズで強いLMの出力から微調整を行う方法があります。これはChatGPTのスタイルを模倣することに長けているが、実際のところは大きな能力差があり、このギャップは拡大している模様です。
最も有効な手段は、プロプライエタリなシステム（ChatGPTなど）を模倣するのではなく、より優れたLM基盤の開発を主張しています。

“Migraine”と名付けられたmacOS の脆弱性

root権限を持つ攻撃者が SIPをバイパスできる可能性 CVE-2023-32369 CVSS7.1 影響度 High

対策

2023年5月18日にリリースされたセキュリティ更新プログラムを適用する事をお勧め致します。

背景

ネイティブに常駐する Apple 署名バイナリのdrop_sipプロセスは、csopsシステム コール を呼び出し、子プロセスを実行します。 drop_sipの親プロセスはsystemmigrationdは、子プロセスにSIPをバイパスする権限を与える事ができることや、コード署名フラグ、具体的にはCS_EXEC_INHERIT_SIPフラグをクリアすることでSIP チェックを有効にできます。 これにより、削除不可能なマルウェアの作成など、悪用される可能性があった模様です。

国内外で急上昇する“メタバースの総人口”

かつてBitcoinでピザを買えた時に想像した未来。しかし、同じ暗号通貨であっても人によって捉え方が異なっており、投機的に儲けたい人々とプラットフォームとして成熟させていきたい人々の評価は異なるものでした。そしてMTGOX事件で多くの人が去って行きました。 いずれにせよ「人とAIが協調するシフトレフトへ」と向かいます。AI単体ではなく、様々なサービスを提供には、メタバースやWeb3といった場：プラットフォームが鍵を握ります。今が大切な時間だと私は考えます。

メタバースのグローバルな標準化団体Metaverse Standards Forumは今年初めに参加企業が2400社を超え、やがてAIになるアバターの利活用も含めてルールメイキングを進めております。

なお、これからはVRChatといった単体のメタバースよりも、デジタル著作権管理やメタバースを束ねるマルチバースのプラットフォームが重要だと考えます。そこでValve CorporationのSteamを注目しております。

NVIDIA ACE をリリース – AIでアバターに生命を吹き込む

バーチャルアシスタントやデジタル ヒューマンを構築するクラウドネイティブ AI モデルとサービスのスイートであるOmniverse Avatar Cloud Engine (ACE)。Unified Compute Framework (UCF) が用意されています。

Use NVIDIA ACE for Games to customize and deploy LLMs through cloud or PC to generate intelligent NPCs 

次はAIを使って会社内の「社員A」と自由に音声で指示できるシステムができて、AI搭載のメタバースも普通の存在になります。

形式論理学に基づく演繹コーパスによる言語モデルに対する演繹推論能力の付与

「否定の意味」「次の結論を導くために必要十分な前提のみを選ぶ」「前提から論理的に導ける事項のみ結論に含める」などFLD による学習は、より実世界に近い複雑な論理推論にも汎化します。
確率的言語モデルを用いるChatGPTは有名ですが、事実を普遍的なルールに当てはめ、新たな事実を導き出す人間のような推論能力を持つAGI（汎用人工知能）に向けて、重要な研究の一つだと思います。 このような研究から、AGIが日本から生まれることを期待しております。

FLD は一階述語論理の公理系に基づく演繹推論事例を生成することを目的とする．また，将来の解析
研究において様々なパターンのコーパスを生成することを見据え，多様なオプションが用意されている．

投稿者: 二本松 哲也

SPbD:Security&Privacy by Design Founder ー OWASP Member ー ITは人々の生活をあらゆる面でより良い方向に変化させること ー 競争原理から共創原理へ