FACT CHECK PROJECT

株式会社データグリッド

データグリッド(DATAGRID、本社・京都市)は2017年、当時まだ新興技術であった生成AIに着目した京都大学学生の岡田侑貴・代表取締役CEOにより、同技術の産業利用を目的に、学生ベンチャーとして起業された。
データ処理を得意とするコンピューターに創造性を加え、 動画や画像、音声などのデータを創出することを可能にするGAN(Generative Adversarial Network =敵対的生成ネットワーク)と呼ばれるデータ生成技術をコアとして、幅広く事業展開している。

インフォデミックに関してデータグリッドでは、同社が得意とする生成AIが悪用されることがあり、それにより生み出されてしまったディープフェイクが広く流布され、社会不安など様々な弊害を起こしかねない現状に大きな危惧を抱いている。

AI技術の格段の進歩にともない、本物と見分けのつかない高精度なディープフェイクが大量に生成可能となり、インターネット上で流布される時代となった。

政治家や企業家のディープフェイクを生成し、実際には言っていないことを世の中に流布させることによって、政治の混乱や株価の下落など社会的な混乱・騒乱が起きかねない危険性が高まっている。ポルノ動画に有名人の顔を差し替え、インターネット上で流すなどプライバシーと人格の尊厳を侵害する事例も国内でも確認され、摘発されている。

さらに、これまで主に社会的に影響力のある人物や大手企業がターゲットとなっていたのが、これからは一般人や中小の企業にまで対象が広がる可能性が高いとデータグリッドでは予測する。また、地域や学校のコミュニティーの分断を目的としたディープフェイクにも強い警戒感を抱いている。

この状況下において、データグリッドでは、生成AI技術とディープフェイクを1対1の関係で論じてはならないと訴えている。古来、ダイナマイトの発明でもってよく説明されるように、要は使う側の問題であって、新しい技術そのものに責任はないからだ。

ディープフェイクの拡散を防ぐ主な手立てとして、データグリッドでは、三つの技術的な対策があると考える。一つ目は、素材となる動画、画像に手を加え、ディープフェイクに使わせない「防衛」。二つ目は、そのデータそのものがディープフェイクではなく、リアルなものであることを担保する「証明」。三つ目は、それがディープフェイクだと見破る「検知」の技術で、データグリッドでは、この分野で、同社がこれまで培ってきた生成AIの技術を転用・活用し、ディープフェイクの拡散防止に貢献することを提案している。

業界として、その定義がまだ定まっていない中、データグリッドでは仮に、"深層学習を用いた生成されたメディアのうち、人を騙す意図など「個人利用に留まらない悪意がある人物に関わる生成メディア(合成メディア)」"と定義している。その「悪意の有無」について、どう判断していくかも、今後の検討課題として認識している。

インフォデミックの問題において、データグリッドでは、同社が得意とする生成AIの技術でもって、検知の分野で自社の存在感をアピールしていく方針でいる。
ただ、この問題は、偽札づくりとそれを検知し摘発する側や、ハッカーと情報セキュリティー会社の関係のように、常に新規の技術が先行し、それを後追いする形での対症療法的な対策しかとれないという大きな問題をはらんでいる。

技術的な取り組みに加え、たとえば法的な規制や、専門的な知識の乏しい一般の方にデマやディープフェイクを見抜くリテラシーを身に付けてもらうための施策など、産官学一体となった取り組みが必要だとデータグリッドでは考えている。そうした産官学の取り組みの中で、主要な役割を担えるよう、この問題について有識者のヒアリングを行うなど、着実に準備を進めている。

株式会社データグリッド

データグリッドは、2017年設立の京都大学発AIベンチャーで、AIアセットのライセンシングやAIを活用した共同事業開発を展開しています。
コンピュータに創造性を与え、様々なデータを生成するGAN/敵対的生成ネットワークというAI技術をコア技術としています。
生成AIの強みを活かして、デジタルヒューマン、疑似データの生成を基にした事業に加え、セキュリティ・化学などの新たな事業領域においても価値創出に取り組んでおります。

記事一覧に戻る