最近、ChatGPT やその他の生成 AI モデルの人気が高まっていますが、それらを使用するためのコストは非常に高額になる可能性があります。ユーザー入力に基づいて幻想的なストーリーを生成する AI ダンジョン ゲームで、小規模なスタートアップの Latitude が人気を博したときに、それは明らかになりました。CEO の Nick Walton は、ゲームをプレイするユーザーが増えるにつれて、テキストベースのロールプレイング ゲーム ソフトウェアを維持するためのコストが上昇し続けていることを発見しました。AI Dungeon のテキスト生成は、OpenAI によって開発された Microsoft の GPT 言語テクノロジに基づいていました。さらに、コンテンツ マーケターがこのゲームを使用して広告コピーを作成したことも、Latitude の AI 法案に影響を与えました。
Walton 氏によると、同社は 2021 年に、毎日処理しなければならない数百万のユーザー リクエストに対応するために、OpenAI と Amazon Web Services 生成 AI ソフトウェアに月額 20 万ドル近くを費やしていました。「私たちは、人間の労働者と AI の労働者がいると冗談を言い、それぞれにほぼ同じ金額を費やしました」とウォルトンは言いました。「私たちは毎月数十万ドルを AI に費やしましたが、私たちは大きなスタートアップではないので、非常に高額でした。」
2021 年後半、コストを削減するために、Latitude は AI21 Labs の安価で機能的な言語ソフトウェアに切り替えました。さらに、同社は無料のオープン ソース言語モデルをサービスに統合しました。その結果、同社の毎月の AI 請求額は 100,000 ドル未満にまで減少しました。Latitude は現在、プレーヤーに高度な AI 機能の月額サブスクリプションを請求して、コストをカバーしています。
Latitude の高額な AI 請求書は、ジェネレーティブ AI テクノロジーの開発と維持のコストが、基盤となるテクノロジーを開発している企業と、AI を使用して独自のソフトウェアを実行できるようにする企業の両方にとって、法外に高くなる可能性があることを示しています。Microsoft、Meta、Google などの大企業は資本を使って、小規模な挑戦者が太刀打ちできないテクノロジー リードを切り開いているため、これは業界にとって不快な現実です。コンピューティング コストが高いため、AI アプリケーションのマージンがサービスとしてのソフトウェア (SaaS) の以前のマージンよりも永久に小さい場合、現在のブームが鈍化する可能性があります。
大規模な言語モデルで実際に AI モデルを実行するトレーニングと「推論」の高コストは、以前のコンピューティング ブームとは異なる構造的なコストです。ソフトウェアが構築またはトレーニングされた後でも、プロンプトに回答を返すたびに数十億回の計算を実行するため、大規模な言語モデルを実行するには膨大な量の計算能力が必要です。それに比べて、ソフトウェアの展開と保守のコストは、歴史的に比較的低くなっています。
これらの課題にもかかわらず、ジェネレーティブ AI テクノロジの需要は依然として高く、企業が新製品を作成し、より効率的に作業するのに役立つためです。業界は、よりエネルギー効率の高いハードウェアを開発し、より少ない計算能力を必要とする新しいアルゴリズムとアーキテクチャを導入することにより、AI テクノロジを使用するコストを削減するために取り組んでいます。さらに、オープンソース コミュニティは、無料の AI モデルとツールを提供することで支援できます。
全体として、AI テクノロジはまだ開発段階にあり、テクノロジの展開を成功させるためには、企業や開発者が克服しなければならない高いコストが課題です。業界がより効率的なソリューションの革新と開発を続けているため、コストは時間の経過とともに減少すると予想されます。
AIトレーニングモデル -トレーニングのコスト！
アナリストと技術者は、OpenAI の GPT-3 のような大規模な言語モデルのトレーニングには 400 万ドル以上かかると見積もっています。AI と機械学習を専門とする Forrester のアナリストであるローワン・カラン氏によると、より高度なモデルのトレーニングには「数百万ドル台前半」の費用がかかる可能性さえあります。
Meta は最近、最大の LLaMA モデルをリリースしました。このモデルは、2,048 個の Nvidia A100 GPU でトレーニングされ、1.4 兆個のトークン (約 750 ワードは約 1,000 トークン) をトレーニングします。トレーニングには約 21 日かかり、約 100 万 GPU 時間が必要でした。AWS の専用料金では、トレーニングに 240 万ドル以上の費用がかかります。650 億のパラメーター モデルは、1,750 億のパラメーターを持つ ChatGPT-3 のように、OpenAI の現在の GPT モデルよりも小さいですが、それでも費用のかかる取り組みです。
AI スタートアップの Hugging Face の CEO である Clement Delangue 氏によると、同社の大規模な Bloom 言語モデルのトレーニングには 2 か月半以上かかり、「約 500 GPU に相当する」スーパーコンピューターへのアクセスが必要でした。大規模な言語モデルを作成する組織は、能力を向上させるためにモデルを再トレーニングする際に注意が必要です。これには非常に費用がかかるためです。
Delangue 氏は、これらのモデルが毎日のように常にトレーニングされているわけではないことを認識することが重要であると述べました。ChatGPT などの一部のモデルは、最新のイベントを認識していない場合があります。また、Delangue 氏は、ChatGPT の知識が 2021 年に終了することを強調しました。
現在、Hugging Face は Bloom の 2 番目のバージョンのトレーニングを行っており、費用は 1,000 万ドルを超えません。しかし、デラングは、毎週そのようなトレーニングをしたくないと言いました.
推論: AI テキスト ジェネレーターを使用する場合の高価なプロセス。
エンジニアは、トレーニングされた機械学習モデルを使用して、「推論」方式を使用してテキストを予測または生成します。このプロセスは、人気のある製品では何百万回も実行する必要がある場合があるため、モデルのトレーニングよりもはるかにコストがかかる可能性があります。ChatGPT のように人気のある製品で、1 月の推定月間アクティブ ユーザー数は 1 億人ですが、研究者の Curran 氏は、OpenAI が 1 か月間で数百万のプロンプトを処理するために 4,000 万ドルを費やした可能性があると考えています。
これらのツールが 1 日に何十億回も使用されると、コストは劇的に増加します。金融アナリストは、Microsoft の Bing AI チャットボットは、OpenAI ChatGPT モデルに基づいており、すべての Bing ユーザーに回答を提供するには、少なくとも 40 億ドルのインフラストラクチャが必要になると見積もっています。
OpenAI 言語モデルにアクセスするスタートアップである Latitude は、モデルのトレーニングに料金を支払う必要はありませんでしたが、推論のコストを考慮に入れました。 1 日あたり 100 万件のリクエスト」です。Curran は、彼の計算はかなり保守的であると見積もっています。
現在の AI ブームに拍車をかけるために、ベンチャー キャピタリストや巨大テクノロジー企業は、ジェネレーティブ AI テクノロジーに特化したスタートアップに数十億ドルを投資しています。たとえば、メディアの報道によると、Microsoft は 1 月に GPT を監督する OpenAI に最大 100 億ドルを投資しました。Salesforce Ventures のベンチャー キャピタル部門は最近、ジェネレーティブ AI スタートアップを支援するために 2 億 5000 万ドルの資金を調達しました。
多くの起業家は、制御せず従量課金制の AI モデルに補助金が適用される可能性があることに依存することにリスクを感じています。ベータ版のチャットボットである personal.ai の創設者である Suman Kanuganti は、OpenAI や ChatGPT などの大きな言語モデルだけに頼らないよう起業家にアドバイスしています。エンタープライズ テクノロジー企業の Conversica などの企業は、Microsoft の Azure クラウド サービスを通じて低価格でテクノロジを活用する方法を模索しています。Conversica の CEO である Jim Kaskade 氏は、スタートアップのコストについてコメントすることを拒否しましたが、言語モデルを効果的に使用する方法を模索しているため、補助金付きのコストは歓迎されると強調しました。
AI 開発の未来: 課題と機会
業界で AI を開発するコストが高いままかどうかは不明です。基本モデルの企業、半導体メーカー、および新興企業はすべて、AI ソフトウェアの所有コストの削減にビジネス チャンスを見出しています。
AI チップ市場の約 95% を占める Nvidia は、機械学習専用に設計されたより強力なバージョンを開発し続けています。しかし、業界におけるチップ性能の向上は近年鈍化しています。
それでも、Nvidia の CEO である Jensen Huang は、AI の効率が 10 年で「100 万倍」になると考えています。チップだけでなく、ソフトウェアやその他のコンピューター コンポーネントも改善されています。「全盛期のムーアの法則は、10 年で 100 倍の成果を上げていただろう」と Huang 氏は先月の決算説明会で語った。「新しいプロセッサ、システム、相互接続、フレームワーク、アルゴリズムを開発し、データ サイエンティストや AI 研究者と協力して新しいモデルを開発することで、大規模な言語モデルの処理を何百万回も高速化しました。」
一部のスタートアップは、AI の高コストをビジネス チャンスとして注目しています。D-Matrix は、GPU よりもコンピューターのメモリでより多くの処理を行うことにより、推論にかかる費用を節約するシステムを開発しました。創設者は、GPU は高価であり、最終的な収益のために構築されていないと考えています。HuggingFace の CEO である Delangue 氏は、より多くの企業が、大規模な言語モデルよりもトレーニングと運用にかかる費用がかからない、小規模で特定のモデルに焦点を当てることで、より良いサービスを受けることができると考えています。
OpenAI は先月、GPT モデルへのアクセスのコストを削減しました。現在、約 750 ワードの出力で 5 分の 1 セントの費用がかかります。OpenAI の低価格は、AI ダンジョン メーカーの Latitude の注目を集めました。Latitude の CEO である Nick Walton 氏は、OpenAI がコストを削減するという決定を下したことで、AI によって生成された驚くべきストーリーへのアクセスをさらに多くのユーザーに提供できるようになると述べました。
全体として、AI 開発の将来は、コスト、熟練労働者の可用性、技術の進歩、規制の枠組みなど、多くの要因に左右されます。しかし、AI 開発が今後数年間で多くの業界で重要な役割を果たし、この技術に早期に投資する企業が決定的な競争上の優位性を持つ可能性があることは明らかです。