この記事の目的
LLMモデルをローカルにダウンロードして使う ～LlamaIndex～
この記事の目的上記の記事で、課金不要のLLMを使って検索を行うプログラムをご紹介しました。このプログラムの難点として、プログラムを実行する度にインターネット経由でLLMを取得するため実行に少々時間がかかることがあります。この記事ではその難点...
ottfoekst.com
2025.02.16
上記の記事で、LLMをローカルにダウンロードしてプログラムの実行を早くしました。
しかし、プログラムの起動1回につき検索を1回しか行うことができません。そこで、Webブラウザで表示するWebアプリをつくって繰り返し検索できるようにしてみます。
[広告]関連書籍
リンク
リンク
サンプルコード
ライブラリStreamlitにstという名前を付けて下記を実装しています。
- Webブラウザのタブに表示されるタイトルを指定(14行目)
- Webページに表示されるタイトルを指定(15行目)
- 質問文を入力するテキストボックスを表示(44行目)
- 質問文で検索した結果を画面に表示(49行目)
Streamlitのバージョンは1.44.0(2025年3月26日リリース)を使用しました。
動作確認
下記コマンドを実行するとWebアプリが起動してWebブラウザが開かれます。コマンド最後のllamaindex-search-ver3.pyはサンプルプログラムの名前です。
streamlit run llamaindex-search-ver3.py
プログラムの起動1回で複数回検索できるようになりました。
コメント