AIと顔認証を組み込んだ「人間狩りをするAIドローン」がわずか数時間で完成

起業家でエンジニアのルイス・ウェナス氏は、小型ドローンに顔認証システムと人工知能(AI)を組み込むことで、ゲーム感覚で人間を追いかけるドローンを作成したとSNSに投稿しました。ウェナス氏は、わずか数時間で作り上げたそのドローンが武器さえ搭載すれば簡単に自動で人間を殺害するドローンに変貌することを指摘し、AIドローンの兵器利用について警告しています。
we built an AI-controlled homing/killer drone -- full video pic.twitter.com/xJVlkswKaq— Luis Wenus (@luiswenus) 2024年3月2日

AI drone that could hunt and kill people built in just hours by scientist 'for a game' | Live Science
https://www.livescience.com/technology/engineering/ai-drone-that-could-hunt-and-kill-people-built-in-just-hours-by-scientist-for-a-game
ウェナス氏はエンジニア仲間のロバート・ルコシュコ氏と協力して、物体検出モデルを使用して人を見つけ、その人に向かって全速力で飛行するようAIで制御されたドローンを設計したとムービーで報告しました。

ドローンには顔認証システムを搭載。

以下の画像では、ウェナス氏を「Luis」と認識していることがわかります。

実際にAIドローンを飛行させてみたムービーでは、ターゲットを認識したドローンが一定の高度から追いかけ続けてくる様子を見ることができます。

ムービーでは「ドローンは遊びのように認識した人を追いかけてきます」と述べていますが、ウェナス氏は同時に、「このAIドローンはわずか数時間で構築したものですが、このドローンに少量の爆発物を縛り付けるだけで、恐ろしい兵器になります。大きなイベントや公共の場でドローン対策システムはほとんどなく、簡単に動作して特定の人を襲うドローン兵器がいかに恐ろしいものかを実感させられました」と発言しています。
ウェナス氏は自身を「オープンソース絶対主義者」と表現しており、エンジニアとして常にソフトウェアをオープンソースに共有することを重要視しているとのこと。また、「AI開発にはマイナス面もあるが、良い面が常に悪い面を上回るという信念から、マイナス面に関係なくAI研究を加速させるべき」というe/acc(Effective accelerationism、効果的な加速主義)の考え方もウェナス氏は推奨しています。しかし、今回のAIドローンは近い技術でテロ攻撃にもつながる極めて危険なもののため、実験に関連するコードは一切公開しないとウェナス氏は述べています。
AIドローンの設計には技術的な知識が必要ですが、進歩したAIが高度なコード作成を補助してくれることもあり、ソフトウェア面での作成はますます簡単になる可能性があります。そのためウェナス氏は、ドローン兵器の危険性を訴えた上で、大人数が集まる場所にはカメラや音響センサー、ドローン検知レーダーなど、ドローン対策システムを早急に構築する必要があると今回の実験を通して警告しました。