ソフトウェア開発者のための OSS、まとめてみました!

ソフトウェア開発を行なっている自分が、個人的に面白いと思ったプログラムの最新技術や、オープンソースソフトウェア(OSS)をまとめています!

MENU

ChatGPT と同等な性能を持つ AI チャットボット!「FastChat」

概要

みなさんは ChatBot を普段の生活の中で利用していますでしょうか?

ChatBot について簡単に言うと、LINE だったりもしくは Web サイトだったり、ほかには市役所や銀行などにも使われており、人間の質問に対してあらかじめ決まった回答を出してくれる Q&A 回答ロボットのようなものですね。

そんな ChatBot ですが、今や AI が組み込まれるようになり人間と自然な会話ができるようになっていることはご存じでしょうか?

それが今巷ではやっている ChatGPT ですね。

www.gizmodo.jp

詳細は割愛しますが、人間の自然言語の入力に対して AI がまるで人間のようにチャット形式で質問に答えてくれるという、画期的技術です。

こちらの ChatGPT が 2022 年下期に登場してからは、GitHub 上でも ChatGPT の技術に関する OSS やサービス、技術が多く開発されていきました。

そんな中、ChatGPT のような AI チャットボットを目指したサービスが開発されており GitHub 上で話題になっていたものがあったのでご紹介しようと思います。

今回ご紹介する OSS は、ChatGPT 90 % に近い品質を持った、GPT-4 を印象付けるようなオープンソースチャットボット「FastChat」になります。

こちらの「FastChat」はオープンソースのチャットボットである Vicuna というエンジンを利用して開発された AI チャットボットで、ChatGPT と同等の品質であることがベンチマークテストによって明らかになっているものになります。

ChatGPT が世間に広まって半年程度で ChatGPT のような AI チャットボットエンジンがいくつも開発されているのはすごいですね!

それでは早速こちらの 「FastChat」について、もう少し詳しく見ていきしょう。

目次

特徴

大きな特徴としては冒頭でも記載した通り、ChatGPT と同等の品質で自然言語対話が行える点になります。

また、チャットボットのエンジン・アルゴリズムOSS であるため、独自でカスタマイズできるのも特徴の 1 つですね。

より詳細な内容についてはドキュメントのほうに記載されていますので、良ければそちらを参照されてみるとよいかと思います。

vicuna.lmsys.org

利用手順

FastChat」のインストール方法としては以下の方法があります。

PIP を利用する方法

以下のコマンドより、「FastChat」をインストールします。

# Install FastChat
pip3 install fschat

# Install the latest main branch of huggingface/transformers
pip3 install git+https://github.com/huggingface/transformers

ソースコードから利用する方法

  1. 以下コマンドより「FastChatリポジトリをクローンします。

      git clone https://github.com/lm-sys/FastChat.git
      cd FastChat
    
  2. 必要なパッケージ類をインストールします。

      pip3 install --upgrade pip  # enable PEP 660 support
      pip3 install -e .
    

デモページから利用してみる方法

FastChat」をインストールせずとも、とりあえずどんな感じなのかを試してみたい!という方は、デモページが公開されていましたので、そちらを参照してもよいかもしれません。

chat.lmsys.org

使用感

早速私もこちらの「FastChat」を触ってみました!

普段 ChatGPT をよく触っているので OSS の AI チャットボットはどんなものだろうかと思いながら触ってみたら、特段 ChatGPT と変わらないなという印象を持ちました!

受け答えもスムーズですし、変な回答が返ってくることもないので、まるで ChatGPT を使っているような感覚、本当に別の AI チャットボットなのか?と疑うような感じでした。

それもそのはずで、性能についての記述を見てみると ChatGPT の 90% 以上の品質を確保できているということでした。

FastChat」、もしくはそのエンジンである Vicuna、素晴らしいですね!!

まとめ

今回は、ChatGPT 90 % に近い品質を持った、GPT-4 を印象付けるようなオープンソースチャットボット「FastChat」をご紹介しました。

ChatGPT が世に広まっている中、同等な性能を持った OSS が出現したことで世界にいるエンジニアの技術力の高さのすばらしさを感じることができました!

FastChat」はこれからも品質が強化されていくと記載もありますので、より ChatGPT に近い存在、もしくはそれを超える AIチャットボットになりうるかもしれませんね。

ChatGPT に興味を持っている方やその技術自体に興味を持っている方、もしくは ChatGPT のような AI チャットボットエンジンに興味を持っている方は、ぜひこちらの「FastChat」を触ってみることをお勧めします!

ライセンス

Apache License Version 2.0

リンク

chat.lmsys.org

vicuna.lmsys.org

github.com