OCHa Cafeはハイブリットで開催！

Oracle Cloud Hangout Cafeって？

Oracle Cloud Hangout Cafe (通称「おちゃかふぇ」) は開発者・エンジニアに向けたテクニカルな勉強会です。
クラウドネイティブな時代に身につけておくべきテクノロジーを深堀りしていきます。

OCHaCafe のテーマはオープン/デファクト・スタンダードを基準に選定し、参加される皆さんがどんなプラットフォームを使っていたとしても必ずスキルアップに役立てられる内容になっています。

今回は・・・
Kubernetesで実現するLLM推論基盤

今回のテーマは、「Kubernetesで実現するLLM推論基盤」です！

LLM推論をKubernetes上で効率よく動かすには、従来のWebアプリとは異なる設計が求められます。本セッションでは、KServeやllm-dなどを題材に、KVキャッシュを意識したルーティング、Prefill/Decode分離、オートスケーリングなど、Kubernetesにおける最新のLLM推論基盤の考え方と構成を解説します。

LLM推論の基本から、従来のワークロードと何が違うのか、その違いを埋めるためにどうするのか、と言ったところまでお話ししますので、LLMやKubernetesにあまり詳しくない方も是非ご参加ください。

LT登壇者募集中！

Season 12でも メイン・セッションに加えてLT枠を設けています。
クラウドネイティブなトピックであれば内容不問の10分間セッションに登壇する方を広く募りますので、是非この機会に皆さんも私たちと共におちゃかふぇに参加して一緒に盛り上げて下さい！

タイムスケジュール

参加申し込み・参加方法

詳細は申し込み後、当ページの「参加者への情報」箇所に表示されます。
開催前日と当日にDMにて入室情報などのご案内も実施させていただきます。

★オンライン参加方法

当日のウェビナーはZoomを使用して開催します。 お申し込みいただいた後に、登録完了メールがお手元に届きます。 そちらのメールに当日の参加用 URLとPWが掲載されておりますので、ご確認をお願いします。 参加にはZoomアプリの準備が必要になります。

★会場参加方法

開催当日、受付にお越しの際は、受付担当に参加申し込み後に送付される登録完了メールをお見せいただき、お名刺を1枚お渡しいただきますようご協力をお願いします。 ＊お名刺をお忘れの場合は、受付にてお名前、ご連絡先などをお伺いさせていただきます。

Season 12 のテーマ

以下を予定しています。（全6回を予定）

※発表順序・テーマは変更する可能性があります。
テーマ毎にOracle Cloudを使ったデモやアーキテクチャをご紹介します。

お願い

下記「プライバシーポリシー」をご確認・ご了承いただいた上で、お申し込みの際はお名前等のご記入をお願いします。
ご協力いただけない場合は当日参加をお断りさせていただく場合がございますので、予めご了承ください。

<プライバシーポリシー / 個人情報の取り扱いについて>
https://www.oracle.com/jp/legal/privacy/privacy-policy.html

その他

Twitter ハッシュタグは #ochacafe です。

Oracle Cloud：https://www.oracle.com/jp/cloud
Oracle Cloud Free Trial： https://www.oracle.com/jp/cloud/free/

過去の資料はすべてconnpassの Oracle Cloud Hangout Cafe にアップされております。
セッションアーカイブ動画はYouTube [OCHa Cafe 再生リスト] (https://youtube.com/playlist?list=PL8x2FJpi0g-sDPoupp2pg6RP9P9JU2fHx&si=uHIdnImkexEWFpdt) よりご覧いただけます！ 是非チェックしてください！