概要MacBook Air (M3) を入手したので、せっかくだしMacでどれくらいローカルLLMが動くのか気になって色々試してみました。Ollamaのセットアップから、いくつかのモデルを動かしてみた感想をまとめています。今回は「モデルごとの推論精度や応答内容の比較」ではなく、「MacBook Air (M3) でどの程度のパラメータ数のモデルが動作するか」に着目しています。どこまで大きなモデルが動くのか、実際に試してみた記録です。 きっかけ・やってみた理由これまでずっとWindowsを使ってきましたが、最近業務上の理由でMacが必要になりました。せっかく新しい環境になった...

MacBook Air(M3) でローカルLLMを試してみる

背景私たちのチームでは、Lookerで作成したダッシュボードを、Lookerアカウントを持たない多くのユーザーにも定期的に共有する必要がありました。これらのダッシュボードには、各ユーザーにとって重要な特定のフィルタリングが適用されている必要がありました。 問題点対象ユーザーが非常に多かったため、Lookerの標準機能であるスケジュール設定を手動で一人ひとりに行うのは、現実的ではありませんでした。設定ミスや漏れの可能性も高く、運用負荷の増大が懸念されました。 実施概要この問題を解決するために、以下の手順でLookerダッシュボードのメール自動配信システムを構築しました。...

kazushi

MacBook Air(M3) でローカルLLMを試してみる

Looker API を使用してダッシュボード配信