Close
FORTUNE
まとまりのある文章を書いたり、説明文から画像を生成したりするなど、最先端のテクノロジーを担う人工知能のアルゴリズムは、学習に膨大なコンピューティングパワーを必要とします。そのため、ますます普及している超大型人工知能システムの二酸化炭素排出量が、環境面で維持できないのではないかと懸念されています。
このたび、カリフォルニア大学バークレー校の科学者と、これらの大型AIシステムを多数導入しているGoogle社が共同で行った研究により、これらの最新システムの二酸化炭素排出量について、これまでで最も正確な推定値が得られました。
例えば、サンフランシスコに拠点を置くA.I.企業OpenAIが開発した強力な言語モデルGPT-3は、学習時に552トン相当の二酸化炭素を発生させたという。これは、120台の乗用車を1年間運転したときに発生する量と同じです。また、Googleの高度なチャットボット「Meena」が消費した二酸化炭素換算量は96トンで、これは17軒以上の住宅を1年間使用するのとほぼ同じです。
これらの数字は恐ろしく大きいものですが、GoogleやOpenAIの内部から同じように詳細な情報を得られなかった研究者たちによる以前のいくつかの推定値よりも小さいものです。水曜日に査読なしの研究リポジトリarxiv.orgに掲載されたこの研究論文は、AIによる気候への影響を軽減できることも示しています。
研究者たちは、これらのアルゴリズムをトレーニングする際のカーボンフットプリントは、アルゴリズムの設計、トレーニングに使用されるコンピュータハードウェアの種類、そしてそのトレーニングが行われる場所の発電の性質によって、途方もなく変化すると結論づけています。
“今回の論文の主執筆者であるグーグルの科学者、デビッド・パターソンは、「不動産で最も重要なのは、立地、立地、立地という古いジョークのようなものです」とフォーチュン誌に語っています。 “場所がこれほど大きな違いをもたらしたのです」。
カリフォルニア大学バークレー校の名誉教授でもあるパターソンは、ほとんどのAIアルゴリズムは「クラウド」で学習され、実際の処理はシステムを構築する人が座っている場所から何百マイル、何千マイルも離れたデータセンターで行われるので、これは究極的には良いニュースだと言います。 “クラウドコンピューティングでは、場所を変更するのが最も簡単なことです。
言語処理用に設計された超大型A.I.システムの環境への影響は、グーグル社内のA.I.倫理専門家グループが提起したアルゴリズムへの批判のひとつであり、A.I.倫理研究チームの2人の共同責任者であるティムニット・ゲブルの更迭とマーガレット・ミッチェルの解雇にも一役買っていました。
Google社の研究部門を統括するジェフ・ディーン氏は、ゲブル氏と彼女の支持者から、彼女の解任に一役買ったと非難されていますが、このA.I.システムのカーボンフットプリント削減に関する新しい研究論文にクレジットされている9人の著者の1人です。彼がGebru氏の論文を批判した理由の1つは、大規模な言語モデルの倫理的な悪影響を軽減する方法が議論されていなかったことだと言われています。
これらのモデルのエネルギー消費を改善するもう一つの方法は、ニューラルネットワーク用に特別に設計されたコンピューターチップを使用することです。ニューラルネットワークとは、人間の脳を緩やかにモデル化した機械学習ソフトウェアのことで、最近のAIの進歩を支えています。しかし、GoogleやMicrosoft、Amazon Web Servicesなどの大手クラウドコンピューティング企業が運営するデータセンターには、ニューラルネットワーク専用に設計された新しい種類のコンピューターチップがどんどん導入されています。
研究者たちは、グラフィック処理チップからニューラルネットワーク専用の新しいチップに変更することで、超大規模なアルゴリズムの学習に必要なエネルギーを5分の1に減らすことができ、さらに、これらの新しいAIチップの初期の世代から最新のバージョンに変更することで、さらに半分に減らすことができることを発見しました。
さらに、ニューラルネットワークのアルゴリズムを、コンピュータ科学者が「スパース（疎）」と呼ぶものに再設計することで、10分の1にまで削減できるという。これは、ニューラルネットワーク内の人工ニューロンのほとんどが、比較的少数の他のニューロンに接続していることを意味します。したがって、アルゴリズムが学習中に遭遇する新しい例に対して、データの重み付け方法を更新するために必要なニューロンの数は少なくて済みます。
今回の研究に携わったグーグルの研究者であるモード・テクシエは、この論文が、A.I.アルゴリズムのエネルギー消費量とカーボンフットプリントを測定するための標準的なベンチマークに向けて、業界全体を牽引する一助になればと考えています。
しかし、これは簡単なことではないと強調しています。カーボンフットプリントの正確な推定値を得るためには、特定の場所の電力網が一般的にどの程度環境に優しいかだけでなく、A.I.アルゴリズムを学習させていた特定の時間帯に、再生可能エネルギーと化石燃料ベースの電力がどのように混在していたかを正確に知ることが重要です。しかし、大手のクラウドサービス会社は、二酸化炭素の排出量に関するより詳細な情報を顧客に提供し始めているという。
