サンフランシスコ——アントロピックが発表した「クラウド・ソネット4.6」は、複雑なAIワークロードにおける適応的論理や文脈保持能力の向上が期待されている。しかし、この性能向上にはコストが伴う。サム・ウィッテブーン氏の観測によると、長鎖型の問題解決タスクではトークン消費量が大幅に増加している。

アントロピックによると、ソネット4.6はオポーラス4.6と比較して1トークンあたり40％安価だが、実際の利用では、継続的な論理処理や複数ステップのプロセスが必要なタスクでは、ソネット4.5に比べて4倍のトークンが必要となる。例えば、大規模なデータセットの分析は一見安価に見えるが、トークン数が急増すると総コストが急騰する。

文脈圧縮やプログラミングツールの呼び出し機能などの改良は、自動化ワークフローで効果を発揮している。ソネット4.6は、適応的思考のベンチマークではオポーラス4.6との差を縮めている。しかし、複雑なパズルや長時間の論理連鎖では性能が低下し、複雑度が上がれば上がるほど性能が落ちる。単純なクエリは問題ないが、複雑なシナリオでは限界が露呈する。

APIの特性も問題となる。アントロピック自身のプラットフォームは、高度な機能をスムーズに処理できるが、第三者のAPIではツール呼び出しが不完全で、開発者は複数の技術スタックを統合する際に苦労している。その結果、結果のばらつきが生じ、回避策を取らざるを得ない。

企業は、ソネット4.6を特定のタスク——迅速な適応タスクや中程度の文脈保持が必要な業務に限定して利用している。高負荷の処理や深く複雑な論理処理が必要な場合は、オポーラス4.6が優れている。一部の企業は、トークン消費量や一貫性の改善を期待して、オポーラス4.7や4.5.0のリリースを待っている。

アントロピックは、ソネット4.6をソネット4.5よりも計算能力が向上したモデルとして位置づけている。ベンチマークでは進歩が確認されているが、トークンのコスト計算が依然として課題となっている。予算を重視するユーザーは、切り替える前にコスト計算を2回行う。ある開発者がデータセットワークフローをテストしたところ、1トークンあたりのコストが倍増した。

プラットフォームの選択も重要だ。アントロピックのAPIは、速度や機能のアクセス性で他社を上回っている。第三者のAPIでは性能が劣り、ソネット4.6の利用範囲が多様な環境に限られている。混合された技術環境を持つ企業は、統合の問題に直面し、効率向上の恩恵が薄れてしまう。

ソネット4.6は、文脈保持やツール利用といった強みが目立つニッチな用途に適している。広範な用途には慎重さが求められる。ウィッテブーン氏は、モデルの特性と具体的な業務内容を一致させるよう呼びかけている。不一致な選択は時間とコストを浪費する。

AI分野は急速に進化している。ソネット4.6はアントロピックの製品ラインをさらに前進させている。トークン効率は依然として後れを取っている。論理処理に重点を置いたアプリケーションを運用するチームは、確立された選択肢を維持し、改良を待っている。