📚 AWS 機械学習試験対策 まとめノート（AIF → MLA 対応）

1. SageMaker 組み込みアルゴリズム（用途別早見表）

SageMaker（AWS のマネージド機械学習プラットフォーム）には、用途別の事前実装アルゴリズムが用意されています。問題でよく問われる「この用途ならコレ」を整理します。

2. ハイパーパラメータ調整：SageMaker AMT（Automatic Model Tuning：自動モデル調整）

AMT はモデルの最適なハイパーパラメータ（学習率や木の深さなど、人間が事前に決めるパラメータ）を自動探索する機能です。

戦略の選び分け

• Bayesian Optimization（ベイズ最適化）：過去の試行結果を使って次の試行点を賢く選ぶ。試行回数を抑えたいときに最適。Warm Start（過去ジョブを Parent として再利用）も可能。並列度は抑えめにするのが定石。
• Hyperband（ハイパーバンド）：性能の悪い試行を早期停止（Early Stop）してリソースを節約。学習が長時間で、序盤のロス（損失：予測と正解のズレ）から優劣が判別しやすいニューラルネットワーク学習 に特に有効。並列度を高くできる。
• Random / Grid：単純探索。並列度を高くできる。

設定要素

• ObjectiveMetric（目的指標）の最大化/最小化を指定
• ParameterRanges で連続値・整数・カテゴリの範囲を定義
• 複数指標の同時最適化は非対応 → 学習スクリプト内で 複合スコア（例：F1スコアと推論レイテンシの加重平均） を計算して出力する

3. 大規模言語モデル（LLM：Large Language Model）の効率的微調整

GPU メモリが限られるなかで巨大モデルを学習するための技術群です。

PEFT（Parameter-Efficient Fine-Tuning：パラメータ効率的微調整）

モデル全体ではなく、小さな追加モジュールだけを学習する手法の総称。

• LoRA（Low-Rank Adaptation：低ランク適応）：元の重み行列に低ランク（小さなサイズ）の追加行列だけを学習。フル微調整より圧倒的に省メモリ。
• QLoRA：4bit 量子化（重みを4ビット整数に圧縮）＋ LoRA。VRAM（GPU メモリ）制約が厳しいときの最適解。Hugging Face DLC（Deep Learning Container：深層学習用コンテナ）で bitsandbytes と peft ライブラリを併用するのが SageMaker での王道。
• Adapter Tuning：各層に小さなアダプタ層を挿入して学習。
• Prompt Tuning：学習可能な「ソフトプロンプト」（埋め込みベクトルとしてのプロンプト）のみを学習。

「まず何から試すべきか」の順序

1. プロンプトエンジニアリング（指示文の工夫）：追加データがわずかで、フル微調整のコストをかけたくないとき
2. RAG（Retrieval-Augmented Generation：検索拡張生成）：自社データを根拠に回答させたいとき
3. PEFT（LoRA / QLoRA）：少量データで挙動を変えたいとき
4. フル微調整 + 継続事前学習（Continued Pre-training）：本格的なドメイン適応が必要なとき

4. 分散学習：規模に応じた使い分け

5. Amazon Bedrock と RAG（検索拡張生成）

Bedrock は基盤モデル（Claude、Llama など複数モデル）をAPI経由で使える AWS のマネージドサービスです。

主要機能

• Knowledge Bases：社内文書をベクトル化して登録し、RAG を構築。ベクトルストアとして OpenSearch Serverless / Aurora PostgreSQL（pgvector）/ MongoDB Atlas / Pinecone / Redis Enterprise Cloud が利用可能。
• Guardrails：ハルシネーション（生成AIが事実と異なる内容をもっともらしく出す現象）対策。ソース外回答の禁止などのポリシーを設定。
• Model Evaluation：自動評価（ROUGE などの組み込みメトリクス）と人手評価（自社ワーカー or AWSマネージドワーカー）を併用可能。
• Provisioned Throughput：Custom Model（カスタムモデル）を SLO（Service Level Objective：サービス品質目標）で使うために MU（Model Unit：モデルユニット）を購入して専用キャパシティを確保。
• Batch Inference：CSV を投入し非同期処理。月1000万件レベルのレイテンシ許容ケースで Claude Haiku（軽量モデル） との組み合わせがコスト最適。
• Custom Model Import：SageMaker JumpStart で微調整したアーティファクトを Bedrock に取り込み可能。

RAG のベクトル類似度

• 典型的な距離メトリクスは Cosine Similarity（コサイン類似度：ベクトルの角度ベースの近さ）
• OpenSearch を独自運用する場合は k-NN プラグイン（k-Nearest Neighbors：k近傍法）を使い、KNN フィールドで検索

チャンク戦略（PDFを意味のある単位に分割する方法）

• セマンティックチャンク：意味境界を保って分割
• 固定サイズチャンク：例えば 300トークン + 20% オーバーラップ

6. 評価指標の選び方

これは試験で最も問われる領域です。

⚠️ 不正検知の典型ワナ：AUC が 0.95 でも本番で誤検出が多いケース → PR-AUC を追加 し、scale_pos_weight（正例重み比）と判別しきい値を AMT でチューニング。

7. データ前処理・不均衡対策・データリーケージ

クラス不均衡（正例が極端に少ない）への対処

• scale_pos_weight を「負例/正例比」に設定（XGBoost）
• sample_weight を行ごとに付与
• SMOTE（Synthetic Minority Over-sampling Technique：合成少数クラス過サンプリング） で少数クラスを合成
• 評価には F1 / PR-AUC / aucpr を使う

目的変数が右に偏った分布の回帰

• log変換 で学習 → 予測後に expm1（=exp(x)-1） で逆変換

時系列のデータリーケージ（未来情報の混入）防止

• 学習・検証・テスト分割を 時系列順 に行う
• 特徴量は 過去から未来の方向のみ で計算する

バイアス検出（SageMaker Clarify）

• 学習前の偏り検知に pre-training bias metrics：
  • CI（Class Imbalance：クラス不均衡指標）
  • DPL（Difference in Proportions of Labels：ラベル比率差）
• 学習後の解釈には SHAP値（SHapley Additive exPlanations：各特徴量の予測寄与度をゲーム理論で算出）をグローバル集約。

8. 過学習（オーバーフィッティング）対策

9. アンサンブル学習（複数モデルを組み合わせて精度向上）

勾配ブースティング3兄弟の違い

• XGBoost：最も広く使われる定番。SageMaker Built-in でも提供
• LightGBM：ヒストグラムベースで高速
• CatBoost：順序回帰でカテゴリ列を扱いやすい

AutoGluon Tabular の鉄板運用

• presets="best_quality" で多層スタッキングし、CV（Cross-Validation：交差検証）を増やして頑健性を高める。

10. SageMaker 周辺機能（MLOps関連）

• SageMaker Experiments：実験ごとのメトリクス・コードバージョン・ハイパーパラメータをトラッキングして比較
• SageMaker Pipelines：ML ワークフローの構築。TrainingStep（学習）→ ProcessingStep（前処理・評価）→ ConditionStep（条件分岐）→ RegisterModelStep（モデル登録）の流れが定番。同一入力・同一構成のステップはキャッシュで再実行スキップ可能
• SageMaker Debugger：学習中の異常を自動検知。組み込みルール：exploding_tensor（勾配爆発）、VanishingGradient（勾配消失）、LowGPUUtilization（GPU低使用率）など。アクション設定でジョブ自動停止可能
• SageMaker Profiler：フレームワーク・システム両方のメトリクスを可視化。GPU使用率が低いボトルネック特定に有効
• SageMaker Clarify：バイアス検出・モデル説明性（SHAP値）
• SageMaker Model Registry：モデルバージョン管理
• SageMaker Model Cards：モデルの目的・データ・評価結果・倫理的考慮を文書化（ガバナンス強化）
• SageMaker Autopilot：AutoML（自動機械学習）。アルゴリズム選択・特徴量エンジニアリング・チューニングを自動化。時系列予測では target 列名・timestamp 列名・予測ホライズン（予測期間）・頻度を指定
• SageMaker JumpStart：事前学習済み基盤モデル（Llama 等）をワンクリックでデプロイ・微調整。業界別ソリューションテンプレートも提供
• SageMaker Data Wrangler：データ前処理 GUI。Insights Report 機能で相関やヒストグラムを最少工数で確認
• SageMaker Neo：エッジデバイス（Jetson Nano 等）向けにコンパイル最適化
• SageMaker FMEval：（Foundation Model Evaluations：基盤モデル評価）JumpStart や独自モデルを複数指標で自動評価

11. コンテナとスクリプトの実行方式

• Script Mode（スクリプトモード）：AWS 提供の Deep Learning Container を使いつつ、自分のスクリプトをエントリポイントとして指定。requirements.txt で依存追加可能
• BYOC（Bring Your Own Container：独自コンテナ持ち込み）：独自 Dockerfile を ECR（Elastic Container Registry）にプッシュ。最大の柔軟性。要件：ENTRYPOINT で /opt/ml/code 配下の学習スクリプトを呼び出せること
• Hugging Face Estimator：Hugging Face DLC を簡単に使える専用Estimator。Endpoint デプロイ時は環境変数 HF_MODEL_ID と HF_TASK を指定するだけ

Docker イメージ最適化

• マルチステージビルドで成果物のみを最終イメージにコピー
• 必要な依存パッケージのみインストールしレイヤキャッシュを意識

12. 半教師あり/自己教師あり学習（少量ラベル + 大量未ラベル）

• Pseudo-labeling（疑似ラベリング）：モデルの予測を疑似ラベルとして未ラベルデータに付与
• Self-supervised pre-training（自己教師あり事前学習）：ラベル不要のタスクで表現学習 → 本タスクで fine-tune

13. その他覚えておきたいAWSサービス

• Amazon Comprehend：マネージド NLP（自然言語処理）。カスタム分類でラベル付きデータをアップロードするだけで本番品質モデル取得
• Amazon Textract：マネージド OCR（光学文字認識：画像からテキスト抽出）

14. その他細かいテクニック

• チェックポイント保存：checkpoint_s3_uri を指定し torch.save で保存 → 中断後再開可能
• クラスタリングの最適K決定：Elbow法（肘法） を SSE（Sum of Squared Errors：誤差平方和）または Inertia で評価／Silhouette Score（シルエットスコア） を最大化
• CNN（Convolutional Neural Network：畳み込みニューラルネットワーク）のフィルタ：低層は色やエッジなどの局所特徴、高層は形状や物体パーツなどの高次特徴を学習
• トークナイズ高速化：Hugging Face tokenizers の Fast（Rust実装） トークナイザを使う
• シーケンス長統一：99パーセンタイル長で打ち切り＋ミニバッチ単位の動的パディング（dynamic padding）で GPU メモリ効率最大化
• VPC内安全推論：Endpoint を VPC モード（仮想プライベートクラウド内通信）で作成
• 強化学習（Reinforcement Learning）フレームワーク：SageMaker は Ray RLlib と Coach をサポート

「AutoHotkey」の使い方を紹介します。
「細かい仕様はいいから、とにかく一番楽に作成したい！」という方向けの、ノンストレスな手順です！

1. ツールのダウンロード

AutoHotkey公式サイトのダウンロードページにアクセスします。

「Download ZIP」からファイルをダウンロードします。

💡 ZIP版なら管理者権限が不要で、社用PCなどでも可能です。

ダウンロードしたZIPファイルを右クリックして「すべて展開」を選択し、好きな場所に解凍します（デスクトップなどどこでもOKです）。

解凍すると、フォルダの中に以下のようなファイルが入っています。

2. スクリプトファイル（.ahk）の作成

手順1で解凍したフォルダ内で操作を行います。

1. フォルダ内にある WindowsSpy.ahk というファイルをコピー＆ペーストして複製します。
2. 複製したファイルの名前を AutoHotkey64.ahk に変更します。
3. この AutoHotkey64.ahk を右クリックし、Windowsの「メモ帳」アプリで開きます。
4. 中に入っている文字をすべて消して空っぽにします。

コードの書き方は生成AI（ChatGPTやGeminiなど）に頼めば一瞬で作ってくれます！

🤖 AIへの指示例：

「AutoHotkeyでマウス（またはキーボード）の◯◯ボタンに◯◯キー（複合キーも可）を割り当てたい」

書き終わったら、メモ帳を上書き保存して閉じます。

3. スクリプトの実行

設定が終わったら、いよいよ動かしてみましょう！

フォルダの中にある AutoHotkey64.exe をダブルクリックします。

以下のようなウインドウが立ち上がるので、「はい」を選択します。

これだけで、意図した通りにキーやマウスのボタンが切り替わっていれば大成功です！
一度実行すれば、PCをシャットダウン（または再起動）するまでずっと有効になります。

4. 【任意】PC起動時に自動で実行させる（スタートアップ登録）

パソコンの電源を入れたときに、毎回手動で実行するのが面倒な場合は、自動で有効になるように「スタートアップ」に登録しちゃいましょう。

1. キーボードの Windowsキー + R を同時に押して、「ファイル名を指定して実行」を開きます。
2. 入力欄に shell:startup と入力してEnterを押します（スタートアップフォルダが開きます）。
3. 先ほど作った AutoHotkey64.exe のショートカットを作成し、このスタートアップフォルダの中に配置します。

これで、次回からパソコンを起動するだけで自動的にキーの入れ替えが有効になります！ぜひ試してみてくださいね。

１．勉強資料の作成（個人用端末で）

会社のネットワークに「怪しい通信ログ」を残さないために、資料は事前に用意しておきます。

🔹 方法A：事前にExcelなどで単語帳や問題集を作っておく

🔹 方法B：WebサイトをPDF化する

見たいWebサイトを開き、キーボードの「Ctrl + P」を押して印刷メニューから保存先をPDFにして「印刷」を選択します。

💡 手軽でおすすめなのは「英単語帳」
無料の学習サイト「Quizlet」には、大量の学習セットが存在します。
例えば、TOEIC定番の「金のフレーズ」を勉強したい人は、該当ページをそのままPDF化するか、Excelにコピー＆ペーストするだけで簡単に資料が完成します。
金のフレーズ(1000熟語)
※Quizletは著作権法に触れる学習シートもあるため、使用は自己責任で選定してください。

２．勉強資料のアップロード（個人用端末で）

資料ができたら、社用PCに送るための準備をします。

1. 作成した資料をまとめてZIP形式に圧縮する（「7-Zip」などのツールがおすすめ）。
2. 万が一のため、圧縮時に「暗号化パスワードの設定」と「ファイル名の暗号化」を必ず行っておく。

💡 アップロード先は「note」がおすすめ！
アメブロなどはZIP添付ができませんが、note（https://note.com/）なら記事の下書きにファイルを添付できます。アカウントを作成し、記事内にZIPファイルを添付して投稿しましょう。

３．勉強資料のダウンロード（社用PCで）

• ZIPファイルの解凍パスワード
• 自分のnote ID
• noteのURL（https://note.com/自分のnoteID）

これらを記憶しておき、出社したら社用PCのブラウザから直接アクセスしてZIPファイルをダウンロードします。

これで社用PC内に「通信不要で読める教材」が確保できました。

４．【任意】URLの移動・削除（個人用端末で）

ダウンロードが完了したら、すかさず足跡を消去します。
会社でダウンロードを確認後、トイレに行くフリなどをして自分のスマホ（個人用端末）から記事を削除、または移動させます。

noteの場合、「https://note.com/settings/account/note_id」から「note ID」を変更すると、すべての過去記事のURLが一瞬で変わります。
記事自体を消さなくてもURLを移動できるため、会社のセキュリティ担当者にURLを特定されるリスクを大幅に下げられます。

５．【任意】マウスで高速画面切り替えの設定（社用PCで）

ここが一番のキモです。人が近づいてきたときに一瞬で「仕事モード」に戻す設定を行います。

多機能マウスの設定ソフトを使い、サイドボタン（第4・第5ボタン）に以下のショートカットを割り当てます。

　・ボタン1：Ctrl + PageUp
　・ボタン2：Ctrl + PageDown

このショートカットは、Excelのタブ切り替えや、ブラウザ（ChromeやEdge）のタブ切り替えに機能します。

「Excelの1番目のシートは仕事用、2番目のシートは勉強用」にしておけば、マウスを1クリックするだけで、一瞬で「真面目に仕事をしている画面」に擬態可能です。
普通に業務を効率化する上でも最強のショートカットなので、ぜひ設定してみてください！

👇 割り当てを行うソフト（AutoHotkey）の設定は次ページで紹介します！

『【PC作業効率化】キーボード・マウス入力の変更方法』キーボードやマウスの入力を自由に変更できる超便利ツール「AutoHotkey」の使い方を紹介します。「細かい仕様はいいから、とにかく一番楽に作成したい！」とい…ameblo.jp