AWS

AWS Snowball(Black Belt解説)

記事説明

この記事では、「Migration & Transfer」分野の重要なサービスである、
AWS Snow Family(Snowball)
について説明します。

↓Migration & Transferの重要なサービス一覧
・AWS Application Discovery Service
・AWS Server Migration Service
AWS Snow Family
・AWS DMS

↓参考:【AWS Black Belt Online Seminar】AWS Snowball
https://d1.awsstatic.com/webinars/jp/pdf/services/20170614_AWS-BlackBelt_snowball.pdf

実施プロセスのおさらい

移行の実施プロセスのおさらいです。

ディスカバリー ・・・ 移行対象機能の洗い出しなど

設計 ・・・ 計画、手順設計、作業見積もりなど

変換 ・・・ ネットワーク、アプリケーションの実装、単体テストなど

移行 ・・・ パイロットテスト(受け入れテスト)、リリース準備など

運用 ・・・ プロビジョニング、利用者研修、インシデント対応など

最適化 ・・・ 移行後の評価と最適化、継続的なアップデートなど

変換・移行のフェーズにおいて、利用できるサービスが
AWS Snowball」「AWS Snowball Edgeとなります。

AWS Snowball概要

概要としては、「ハードウェアを用いてオンプレミスのデータをAWSに移行する」サービスであり、
データ転送の際にDirect Connectなど、回線の構築をせずに、
クラウド環境にデータを転送(S3に対して)できるサービスとなっており、
クラウドマイグレーションや災害対策に利用されています。
※AWSからデータをエクスポートすることも可能です。

ハードウェアは一つにつき、50TB(USのみ、実質42TB)/80TB(実質72TB)のデータ容量を持ち、
運搬からS3へのアップロードまでのリードタイムは約10日程度となります。
※なお、何百TBのデータがあれば、複数のSnowballデバイスを並列使用すれば良いです。

現在、東京リージョンは利用可能リージョンとなっておらず、
Private Preview(条件次第)で利用可能。

Snowballの価格は、下記の通りになっています。
50TBのアプライアンス ・・・ $200
80TBのアプライアンス ・・・ $250
※アプライアンス=デバイスという認識でOKです。

Snowballデバイスへのデータ移行方法

Snowball利用の大まかな流れとしては、下記となります。
1.AWSコンソールでSnowballのジョブを作成する
2.届いたSnowballアプライアンスをネットワーク接続する
3.クレデンシャル情報(アンロックコードとマニフェスト)をコンソール画面からダウンロード
4.Snowball Clientを用いてアプライアンスにデータ転送する
5.Amazonにアプライアンスを返却する
6.S3にデータが保管される

※引用元:https://d1.awsstatic.com/webinars/jp/pdf/services/20170614_AWS-BlackBelt_snowball.pdf

「4.Snowball Clientを用いてアプライアンスにデータ転送する」の
Snowballデバイスへのデータの書き込み、読み出しは、
2種類の専用のクライアント(Snowball Client)から行います。
※Windows, Mac, Linux対応

1.標準クライアント

・Snowballへのデータの読み出し、書き込みを行うためのコマンドラインツール
・HDFS v2.Xクラスタのファイルを直接読み込み可能

2.S3 Adapter for Snowball

・S3 REST APIを使って、Snowballへのデータ転送を行うためのクライアント
・AWS CLIやAWS SDKからのデータの書き込みが可能

<補足>
転送速度  : 標準クライアント > S3 Adapter for Snowball
CPU使用率 : 標準クライアント < S3 Adapter for Snowball

Snowballのベストプラクティス

1.データ転送ジョブをサブミットする前にオンプレミス環境でクライアントをテストする

本番のデータ転送を行う前に、データ転送テストをしておくべきです。
これでどこがボトルネックになるのかを予測します。

2.クライアントを導入するホストが最小の要求スペックを満たしているかを確認する

クライアント導入対象のホスト(PC or サーバ)が、スペックを満たしているか確認します。

3.転送を可能な限り並列化する

Snowballデバイス1つにつき、80TB(実質72TB)までしか保管できないので、
それよりも多いデータ転送量であれば、複数のアプライアンスを要求して、
並列でデータ転送を行った方が良いです。

4.転送ファイルが小さすぎないかを確認する

ファイルを個別に暗号化する為、転送ファイルが多ければ多いほど、
転送にかかる時間は長くなります。
できればtarやZipにまとめて転送する方が良いです。
※ただし、S3の1オブジェクトの最大サイズは5TBです。
ファイルが小さい場合は、S3 Adapterを利用して、tarファイルに結合しながら転送が可能です。

5.アプライアンスとやりとりしたファイルの整合性を確認する

Snowballコマンド実施後に、ログファイルを確認して、
失敗しているアイルが無いかを確認します。
snowball validateコマンドで、ファイルの整合性を確認できます。

Private Previewにおける注意点

東京リージョンは、まだPrivate Previewという段階であり、
条件次第で利用が可能となっており、下記の点が注意点となります。

<全般的な注意点>
• 利用には一定基準の審査があり、利用開始までにリードタイムがかかる
• 費用は有償
• Private Preview期間のため、オペレーションに時間が掛かる場合がある
• Snowballアプライアンスは、梱包された状態で入出荷する必要がある
• Private Previewのため、通常のステップとは違う場合がある

<Job作成〜設置までの注意点>
• Snowball受領時に担当まで直接連絡する必要がある

<利用終了〜返送までの注意点>
• 配送業者への連絡は、配送時に付属される返送用伝票に記載の連絡先に行う必要がある

まとめ

まだ東京リージョンでは条件次第でしか利用できませんが、
クラウドマイグレーションにおいてデータ転送は必要不可欠なので、
早々に利用できるようになることを期待します。

それでは、お読みいただきありがとうございました。

阪本翔太

阪本翔太

その地域でがんばる人をITで後押ししたい

関連記事