#71 hirokikyさんをゲストに 自然言語処理系AI Chat GPT / Whisperの話

Guest: ky（さん）と呼んでください！Python大好き、Webサービス大好き、自然言語処理も大好きなエンジニアです。ぜひTwitter（＠hirokiky）でフォローしてください！株式会社ゼンプロダクツというスタートアップの代表取締役です。Shodoという、日本語をAIが校正してくれるWebサービスを開発・運営しています。オンライン上でMarkdownの執筆・レビューができるサービスですので、テックブログの運営にもおすすめです。DjangoCongress JPというカンファレンスも毎年主催しています。 Contents: 00:00:00 スタート 00:00:06 ゲスト hirokikyさんの紹介 00:01:29 2022年2月に自然言語やAIの話をしている振り返り。GPT-4の話もしていた 00:06:07 kyさんの自己紹介 00:08:24 terapyonの興味範囲。APIを使うより中身を勉強したい。 00:09:26 GPT-4はオープンソースでない寂しさがある 00:12:42 いまの自然言語系AI開発は飛行機ビジネスみたいにお金がかかるけど、ファインチューニングとかでオリジナルなものが作れる魅力はある 00:14:00 terapyonがOpen AIのWhisperで文字起こしをやっていてチューニングに挑戦中。モチベーションについて 00:18:18 AI系の技術スタックの理解が一つづつ難しい。huggingface, Datasets, DataLoader, transformers, PyTorch, PyTorch Lightning 00:27:51 pyhackなどのコミュニティや勉強会に助けられてきたので、MLの活用形のコミュニティはあるかな？ 00:30:37 研究ではないMLエンジニアリングや運用といったことのノウハウ共有があると良い 00:36:31 Shodo.inkにChat-GPTの導入は面白いアイデアだと思った 00:41:51 AI生成やChat-GPT関連のライセンスや著作権問題は考えていきたいし、倫理的な問題になるかも 00:44:57 AIって最後は倫理問題かな 00:45:40 AIで鬱にならないで欲しい話、エンジニアリングとかまだまだ価値がある 00:49:45 詰め込み教育的な答えを出すのはChat-GPTのほうがすごいと思う 00:50:37 意外と自我っていうのは人間の物質的なものがあるかも話 00:52:36 Chat-GPTなのかWhisper触ってる場合じゃないのか？ 00:54:15 1年前の時にスタジオを作って動画活用って言った振り返り 00:55:37 terapyonは本の紹介とかをプログラミング技術の動画講義を作りたい 00:59:39 一般社団法人PyCon JP Associationの理事にインタビューをリモートでやって動画にまとめた話 https://youtu.be/gr9t-P9CrsM 01:03:34 動画編集に文字起こしツールWhisperが大活躍した話 01:12:47 寺田が年齢関係なくガツガツやっているのを、他の人も真似しないかな？ 01:21:58 Podcast収録したらまたやる気ができたのでもうちょっと勉強してみる 01:28:43 研究は面白いが、成果がでないこともあるので大変でもある。 01:29:27 AI系の学習タスクは、手元でやるか？クラウドでやるか？ VRAM 8GB/12GB or クラウド 01:32:01 Whisperをインテル系CPUで動かすととてつもない時間がかかるが、Appleシリコンならそれなりに早い 01:35:31 WhisperをプロダクションでAWSで動かしたいときはkyさんが相談に乗ってくれる