AI

ローカルLLMは推論より抽出 — RTX 2070+Gemma 9Bで会話ログの要件抽出を試す

ローカルLLMは推論タスクより抽出・マッチングで実用になる。RTX 2070+Gemma 9Bで、旅行予約の会話ログからの要件抽出を試した記録。
Firecracker

FirecrackerのSnapshotとResume

FirecrackerのSnapshot作成とResumeの手順をスクリプト付きで解説。Resumeによるマイクロ秒級のマシン復旧を体感する。
Firecracker

FirecrackerのResumeのRAMイメージとrootfs

FirecrackerのResumeに必要なrootfs・snap・RAMイメージの関係を図解で整理。同一rootfsを複数VMで復元するとディスクが壊れる理由と、3つの回避策。
Firecracker

Firecrackerのネットワーク設定

FirecrackerのマイクロVMにTAPデバイスを認識させ、カーネルパラメータでIPアドレスを渡すネットワーク設定をスクリプト付きで解説。
Firecracker

Firecrackerを外部接続するためのネットワーク設定

FirecrackerのマイクロVMを外部ネットワークと接続するためのTAPデバイスとNAT設定を、そのまま使えるスクリプトつきでまとめる。
Firecracker

FirecrackerのVM起動

Firecrackerで実際にマイクロVMを起動する手順。カーネルとrootfsの取得から、UNIXソケットAPI経由の起動まで。
Firecracker

Firecrackerのインストールと起動

VirtualBox上のUbuntuにFirecrackerをインストールし、KVM前提の環境で起動するまでの手順まとめ。
AWS

【検証録】Firecrackerで学ぶマイクロVMの世界:構築から爆速Snapshot & Resumeまで

Firecrackerをゼロから構築し、ネットワーク設定から爆速のSnapshot & Resumeまでを通しで検証した実践ログの総集編。