肉球でキーボード

MLエンジニアの技術ブログです

2023-01-07から1日間の記事一覧

SageMaker Endpointのレイテンシー高速化実験

SageMaker推論高速化のTIPS サービスの中でMLによるリアルタイム推論を行う場合、レイテンシーは重要な指標となります。 SageMakerによるリアルタイム推論の導入を検討してる場合、レイテンシーがサービス要件に合うかは気にする場合が多いと思います。 本記…