AI

エーアイ

公開：2025-01-21

FastlyがAI Acceleratorを一般提供開始、セマンティックキャッシュ技術で生成AIの応答速度が9倍に向上

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• FastlyがAIソリューション「Fastly AI Accelerator」を一般提供開始
• OpenAIのChatGPTとMicrosoft Azure AI Foundryに対応
• 平均9倍のレスポンス速度向上を実現

FastlyのAI高速化ソリューションが一般提供を開始

ファストリー株式会社は生成AIアプリケーションの高速化と最適化を実現する「Fastly AI Accelerator」を2025年1月21日に一般提供開始した。本ソリューションはLLM生成AIアプリケーションのパフォーマンス向上とコスト削減を支援するセマンティックキャッシュソリューションであり、2024年6月のベータ版リリース以降、OpenAIのChatGPTとMicrosoft Azure AI Foundryへのサポート拡大を実現している。^[1]

Fastly AI Acceleratorは開発者がわずか1行のコード変更とAPIエンドポイントの更新だけでインテリジェントなセマンティックキャッシュ機能を利用できる画期的なソリューションとなっている。繰り返しのクエリに対してはFastlyのエッジクラウドプラットフォームを活用してキャッシュされたレスポンスを提供することで、パフォーマンスの大幅な向上を実現するのだ。

Fastly AI Acceleratorのベータ版を利用した全顧客データとデモトラフィックデータの分析によると、2024年10月15日から11月27日までの期間において未使用時と比較して応答速度が平均9倍に向上している。このソリューションの導入により、開発者は生成AIアプリケーションの高速化とコスト削減の両立を実現できるようになった。

Fastly AI Acceleratorの主な機能まとめ

Fastly AI Acceleratorの詳細はこちら

セマンティックキャッシュについて

セマンティックキャッシュとは、AIや機械学習システムにおいて意味的に類似したクエリに対する応答をキャッシュし再利用する技術のことを指す。主な特徴として以下のような点が挙げられる。

• 意味的に同一のクエリに対する重複処理を回避
• エッジサーバーでの高速なレスポンス提供が可能
• APIコール数の削減によるコスト最適化を実現

Fastly AI Acceleratorではこのセマンティックキャッシュ技術を活用することで、個々の呼び出しごとにAIプロバイダーにアクセスする必要がなくなり応答時間を大幅に短縮している。エッジクラウドプラットフォームを活用した独自のアプローチにより、生成AIアプリケーションの効率的な運用とユーザーエクスペリエンスの向上を実現しているのだ。

参考サイト

1. ^ PR TIMES. 「Fastly、初の AI ソリューション「Fastly AI Accelerator」の一般提供を開始 | ファストリー株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000057.000037639.html, (参照 25-01-21).
2. Microsoft. https://www.microsoft.com/ja-jp

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧