エッジ AI

エッジ AI とは、クラウドのサーバーではなく、スマートフォンやカメラといった端末側で推論を行う AI のことです。

通信を経由しないため応答が速く、電波が届かない場所でも動きます。データを外へ送らないのでプライバシー面でも有利です。

一方で端末の計算能力とメモリは限られるため、プルーニングや量子化といったモデルの軽量化が前提になります。