Azure OpenAI でストリーミングのレスポンスを使うと、遅すぎて思ってたのと違うんだが...と思うことありませんか？ それを解消する手段の一つが Asynchronous Modified Filter (非同期変更フィルター) です。 Asynchronous Modified Filter (非同期変更フィ…

今回は、Azure workbooks を使って Azure OpenAI の Insights を監視する第一歩の踏み出し方って感じの話です。 監視をするには Azure OpenAI Insights の workbook をセットアップ Azure OpenAI Insights を確認する Overview タブ Momitor タブ Insights …

Code Interpreter とは Azure OpenAI での利用 Azure OpenAI Studio でのはじめ方 Code Interpreter を使うための準備 Code Interpreter を試す 数学の問題を試す 他の活用例 余談: Code Interpreter の実行環境はどうなってるのか 参考 Code Interpreter と…

2023年11月の OpenAI 側のアップデートによって Azure OpenAI のモデルのバージョンと最大トークン数、そして価格が更新され、そのモデルが Azure OpenAI では2023年12月に順次ロールアウトされて利用できるようになりました。 こらから新たに Azure OpenAI …

11月6日の OpenAI Dev Day の時期に openai のライブラリ は v.0.x 系 (最終的には v0.28.1) から v1系にアップデートされました。 Azure OpenAI へのアクセス方法も breaking changes が発生しています。過渡期になり、openai のライブラリはバージョン指定…

今回は、Function App/App Service から Azure OpenAI へアクセスを仮想ネットワークのみにしたいというケースの話です。 Azure OpenAI へのアクセスを仮想ネットワークのみに限定することは可能ですが方法はいくつかあります。 そして Azure OpenAI のみに…

OpenAI / Azure OpenAI でとりあえずトークン数を数えることってちょいちょいありますよね。今回は C#, TypeScript のついでに Python もメモしておこうかなという話です。 はじめに: トークンとは Python: tiktoken C＃ Tokenizer Semantic Kernel: GPT3Tok…

Azure OpenAI の登場で新たに Azure に来たユーザーも増え、まだ操作が慣れていないとアクセス許可どうすんねんと思う人も増えただろうと思ってのネタになります。 Azure ポータルで設定・確認する Azure ポータルで IAM を変更 割り当てられたユーザーの確…

前回から引き続きで、DeepLearning.AIというサイトの無償コンテンツのひとつで OpenAI + Python の「ChatGPT Prompt Engineering for Developers」を受講して学んだことのまとめメモの2回目です。 プロンプトエンジニアリングの基礎: 1/3 (C# +Azure.OpenAI …

DeepLearning.AIというサイトでは、アカウントを登録するだけで AI に関する学習コンテンツがあります。 その中の無償コンテンツのひとつで OpenAI + Python の「ChatGPT Prompt Engineering for Developers」を受講してみました。 そこで学んだことを Azure…

今回は C# で OpenAI の SDK で ChatCompletion API を使ってチャットのサンプルコードを書きつつ、SDK を使うとき最初に知っておきたいいくつかの Tips を書きます。今回はざっくり以下を環境で話を進めます。 Azure OpenAI でモデルは GPT-3.5 以降のモデ…