8/5（火)
スポンサー
D1-GL-08

オープンソース LLM の真価を解き放つ！Red Hat による高速・高効率な推論環境

location_on Room 12
schedule
13:00 - 13:30

AI活用が進む中、機密データの扱いやコスト効率から、クローズドな環境でのオープンソースLLM活用への注目が高まっています。
本セッションでは、限られたリソースでLLMを効率的に動かすvLLMを核に、Red HatのAIソリューションとオープンソースへの取り組みをご紹介します。Red HatのAI戦略が、貴社のデータプライバシーとAI活用の両立をどのように実現し、高速かつ高効率な推論環境をもたらすかを解説します。セキュアで高性能なAI推論実現へのヒントをぜひお持ち帰りください。

取り上げる主な Google Cloud 製品 / サービス
・ Cloud TPUs
・Compute Engine

初級者向け
インフラ エンジニア / システム運用管理者
開発エンジニア
ML エンジニア
IT マネージャー / リーダー
AI / AI エージェント
コスト最適化
全業種向け