Close
中国青年網
AIへの攻撃のしやすさは？ 一筋の光があればいいのです。
3月11日、アリのセキュリティ専門家は、簡単なレーザーポインターでAIモデルの効果を低下させることができるという新しい研究結果を発表しました。 本研究では、現実世界で証明されているテスト方法である、AIモデルを「攻撃」するための光線をシミュレートするアルゴリズムを設計し、極めて簡単に実行でき、既存のAIベースのビジョンシステムにとってより脅威となる「攻撃」を実現しました。
「AI を攻撃するために人工的な対抗サンプルを作る必要はなく、シンプルなレーザーポインターで十分です。 私たちは、この研究によって、これまで解明されていなかったAIモデルの「バグ」を明らかにし、将来的にそのような「攻撃」に耐えられるようにAIを「強化」し、関連のある の実務者は、AIモデルのセキュリティ向上に注力しています。」と、Ali Security Turing Labの責任者であるXue Hui氏は述べています。
チューリング研究所は最近、「一筋の光」でAIビジョンのセキュリティをテストすることに加えて、テキスト認識と検出、ビデオ表現学習法を確立するための自己監視の使用と半教師付き行動検出のためのアルゴリズムフレームワークの強化、AIサンプル対決、偽造顔検出、顔と声の照合のAIデュアルモーダル認識、ビデオ記述AI生成技術、AI「視覚」「聴覚」「脳」「免疫」など、AIセキュリティに関わる多くの研究成果を発表し、AIセキュリティに関わる10の新世代セキュリティアーキテクチャ研究成果が国際トップソサイエティCVPR2021に含まれました。
「AIセキュリティフロンティア技術の探索は、第1にAIをより安全にすること、第2にAIをセキュリティに役立てること、第3に特定の社会問題を解決するための効率化の新しい方法を見つけることです。」 シュエーフイは言った。
インターネット上の動画に存在するコンテンツのリスクに対して、アリ・セキュリティのシニア・アルゴリズム・エンジニアである陳大（Chen Da）とアリ・セキュリティのインターン・アルゴリズム・エンジニアである鄧朝瑞（Deng Chaorui）は、共同で動画説明文生成の研究を集中的に行いました。この研究では、与えられた動画に対してアルゴリズムによって動画の内容を説明する段落を自動的に生成し、悪いコンテンツを事前にフィルタリングして、明確で健全なインターネット環境を守ります。
Shuleは、アリ・セキュリティ・チューリング・ラボの女性アルゴリズム専門家で、アルゴリズムは「暖かく」「柔らかく」あるべきだと考えており、空港や駅、車庫、遊び場などで迷子になった子供やお年寄りを探す問題を、プライバシー保護を前提に、より効率的に解決してくれることを期待しています。 シニアアルゴリズムの専門家であるベトフォンは、高品質なDeepFakeの顔偽装動画が生成されて悪影響を及ぼす可能性が高いAIカウンターサンプルや、データの分布や偽装動画の映像品質が変化する現実のシーンを懸念し、より良い方法を模索して検出AIの検出アルゴリズムの実用性を向上させているという。
「セキュリティの展開は、AIそのもののセキュリティであれ、AIが解決できるセキュリティや社会的課題であれ、フロントローディングで行うべきであり、これはセキュリティをソースから構築するというコアコンセプトである。」 Xue Huiは、AIセキュリティ研究という広大な新分野において、より多くの新しい力が加わり、創造的で想像力に富んだ研究が炸裂し、それがやがて人々の生活に応用され、真に社会に貢献し、問題を解決することを期待していると述べた。
