SAP。AWS Batchについて…ただのバッチ処理に非ず、Dockerコンテナ化した処理を並行処理してくれる!

徒然草2.0

AWS認定 Solution Architect Professionalの学習のためBlackBeltという情報を読むのを日課にしようと思います。SAAが3年有効なので、その更新でワンランク上の資格をとれたらいいなと漠然と考えているSAPをとれれば下位互換のSAAも更新されるらしい。

どういったことが試験で問われるか?SAAかCLFで分かったので、BlackBeltの斜め読みを繰り返していれば、総合力がわりと養われるのではないか?と思っている。で、よくわからない単語は個別に調べてどういうサービスか?理解を深めていく。

…で今日は、AWS Batchについて調べて斜め読みしました。

AWS Batch.は、バッチ処理を行うサービス

通常のオンプレミスなサーバのバッチ処理は「定型業務におけるバッチ処理」で、夜間バッチやシステム運用における必要な処理のことだが…

AWS Batchが行う処理対象は、スーパーコンピュータで行うような科学計算、機械学習の分析、ゲノム分析、金融商品のモンテカルロシミュレーション、3DCGのレンダリングや動画のエンコード処理である。ただのバッチ処理に非ず。

ジョブをスケーリングして処理することが可能。

フルマネージドサービスで、ジョブはDockerコンテナイメージをもとに作成する。

逆に言えば、コンテナ化できないバッチ処理はAWS Batchで処理することが向いていないらしい。

AWS Batchに向いていない処理

コンテナ化できない → ParallelCluster

ジョブがすぐ終わるバッチ処理 → StepFunctions + Lambda

機械学習を一気に処理 → SageMaker

※例えば、コンテナ化ができないバッチ処理や既存のジョブスケジューラからの移行がなんらかの理由で難しい場合は、ParallelClusterを利用すべき。ちょっとしたバッチ処理で数秒で終わるような処理はStepFunctionsとLambdaを使用すればいい。機械学習のモデル設計から推論エンドポイントまで一気通貫の処理を行いたい場合はSageMakerなどが向いている。

参考URL:https://d1.awsstatic.com/webinars/jp/pdf/services/20190911_AWS-BlackBelt-AWS-Batch.pdf

徒然草2.0
スポンサーリンク
シェアする
gomiryoをフォローする
ごみぶろぐ

コメント

タイトルとURLをコピーしました