1. Ubuntu 24.04.4 のインストール

1. 空の USB メモリ（8 GB 以上）を用意します。
2. ブートUSB作成ツール を準備します。
   • 例: balenaEtcher
3. Ubuntu ディスクイメージをダウンロードします。

   https://releases.ubuntu.com/noble/ubuntu-24.04.4-desktop-amd64.iso

4. balenaEtcher でイメージを USB メモリに書き込みます。
5. MacPro をシャットダウンし、Option キー（Alt）を押しながら電源オンします。
6. ブートセレクタ
   • オレンジのディスクを選択し「Enter」で進めます。

   

7. 言語選択画面
   • この時点で日本語は無いので「English」で進めます

   

8. アクセシビリティ設定画面
   • よくわからないので…とりあえずそのまま「Next」

   

9. キーボードレイアウト設定画面
   • 私はUSキーボードなので「English(US)」を選択

   

10. インターネット接続画面
    • ブートセレクタでWifi接続していれば、Wifiも選択できたのか？
    • とりあえず有線でつないでいるので、そのまま「Next」

    

11. アップデート画面
    • 「Update Now」ボタンを押すと、Updateが始まり、Updateが終わると勝手に画面が閉じる

    

12. インストール OR お試し利用画面
    • 「install ubuntu」を選択

    

13. インストール種別画面
    • 「Interactive installation」を選択

    

14. アプリケーション選択画面
    • 「Default selection」を選択

    

15. ディスクのセットアップ画面
    • 「Manual installation」を選択

    

16. マニュアルパーティション設定画面
    • 対象のパーティションを慎重に選び、「Change」をクリックすると次の画面がポップアップ

    

17. マニュアル・パーティショニングモーダル
    • Sizeが正しいことを確認して、以下の項目を設定
      • Used as : Ext4
      • Mount point : /
    • そして「OK」

    

18. マニュアルパーティション設定画面(戻り)
    • 手動パーティションの画面に戻るので、良く画面を確認して「Next」

    

19. アカウント作成画面
    • 管理者アカウントを作成する。
      • Your name : アカウントの説明
      • Your computer’s name : コンピュータ名
      • Your username : ログイン名
      • Password ：パスワード
      • Confirm password : パスワード（確認用）
    • そして「Next」

    

20. タイムゾーン選択画面
    • タイムゾーンを選んでねと言ってくるので、「Next」

    

21. インストール準備完了画面
    • 最後に良く確認して「install」

    

    ⚠️ 注意: 「Install」をクリックすると後戻りできません。パーティション設定やアカウント情報に間違いがないか、必ず確認してください。

22. インストール完了後
    • インストールが完了したら、再起動を促されます。USB メモリを取り外し、再起動してください。

参考: Ubuntu 公式サイト | Ubuntu 24.04 リリースノート

普段使いのノートPCにLM studio入れて使ってましたが…
思考中、めっちゃ重くなるのと…

やっぱり遅い！

と、言う事で、数年前に中古で買ってメイン機として使っていたMacPro Late2013（通称ゴミ箱）Xeon 12core ram:64GB ssd:1TB D700x2
アップルがIntelMacのサポートを打切り、新しいOSが入れられなくなったので
Ubuntuを入れてAIサーバとして利用しようと考えました。

最初はノートPC同様LM studio入れましたが、ubuntuの日本語入力に慣れないので
ollama & Open WebUIの構成で環境構築しノートPCからWeb経由でアクセスする事としたので、その備忘録です。

ちなみに手順もローカルLLMに相談しながらトライ＆エラーを繰り返しました。

ローカルLLM作成手順

以下は、Ubuntu 24.04.4 を USB メモリからインストールし、SSH サーバー、Python 環境、Docker、Ollama、Open WebUI のセットアップを行う手順です。

1. Ubuntu 24.04.4 のインストール

• Ubuntu 24.04.4のインストールに関してはこちらをご覧ください。

2. SSH サーバーのインストール

sudo apt install openssh-server
sudo systemctl status ssh
sudo systemctl enable ssh
sudo systemctl start ssh

ポート 22 の開放

sudo ufw status
sudo ufw allow 22
sudo ufw reload
sudo ufw status
sudo ufw enable

3. 日本語化

sudo apt update
sudo apt install -y language-pack-ja
sudo dpkg-reconfigure locales
# 以下を選択:
#   ja_JP.UTF-8 UTF-8
#   ja_JP.UTF-8

4. Python 環境の構築

python3 --version
pip3 --version
sudo apt install python3-pip
sudo apt install python3.12-venv
python3 -m venv venv
source venv/bin/activate   # (venv) で確認できる
# ディスエクト:
(venv)user@userName:deactivate
sudo apt install python-is-python3
python --version

5. Docker のインストール

sudo apt update
sudo apt install ca-certificates curl gnupg
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg \
    -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc

リポジトリの追加

echo \
"deb [arch=$(dpkg --print-architecture) \
signed-by=/etc/apt/keyrings/docker.asc] \
https://download.docker.com/linux/ubuntu \
$(. /etc/os-release && echo "$VERSION_CODENAME") stable" \
| sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

sudo apt update
sudo groupadd docker
sudo usermod -aG docker <ユーザー名>
newgrp docker
sudo apt install docker-ce docker-ce-cli containerd.io \
    docker-buildx-plugin docker-compose-plugin
docker --version
docker compose version

6. Ollama のインストール

# ダウンロードとインストール
wget https://ollama.ai/install.sh
sh ./install.sh
# 状態確認
sudo systemctl status ollama
# 外部からの接続を確認
sudo ss -napt | grep ollama
LISTEN 0 4096 127.0.0.1:11434 0.0.0.0:* users:(("ollama",pid=5449,fd=3))
# .serviceファイルの修正
sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=192.168.*,172.*"
# サービスを再起動して再度確認
sudo systemctl restart ollama.service
sudo ss -napt | grep ollama
LISTEN 0 4096 *:11434 *:* users:(("ollama",pid=5548,fd=3))
# モデルのインストール
ollama pull llama3:8b
# モデルの実行
ollama run llama3:8b
# モデルのアンインストール
ollama rm llama3:8b

確認:

$ ollama -v
$ ollama --version
$ systemctl status ollama.service

7. Open WebUI を Docker コンテナとして実行

docker run -d -p 3000:8080 \
    --add-host=host.docker.internal:host-gateway \
    -v open-webui:/app/backend/data \
    --name open-webui \
    --restart always ghcr.io/open-webui/open-webui:latest

e.g. コンテナに入るには:

docker exec -it <コンテナ名またはID> bash

2016年熊本地震以来、新型コロナの流行など…
色々ありすぎて放置していたサーバーも
なんとか新しいサーバーに引越し開始しました。

そして先日の令和８年熊本地震…

世の中はAIブーム

とりあえず…

サーバーの引っ越しついでに、Wordpressのバージョンアップ！

普段使いのノートPCにローカルLLMを入れ
AI君に「こんな事やりたいんだけど設定ファイル作って！」とか…

結構時間かかるので、その間は別件こなしながら
のんびりやっています。