OpenAI
今週 (2024-11-18週) に開催中の Microsoft Ignite 2024 で、Cosmos DB for NoSQL の Vector search に関わる機能について以下の発表がありました。 Cosmos DB for NoSQL の Vector Search 機能と DiskANN Vector Index 機能が GA Full Text Search (BM25) …
前回は Prompty から LLM を呼び出す基本的な話をしましたので、今回はもう少し実践的に Python のコードから Prompty を活用する方法を書いていきます。 通常のアプリや FastAPI や Azure Functions などから Prompty を活用する際に、前回書いてないことで…
2024年7月に開催された AOAI DevDay で以外にも注目度が高かった、かつあまり認知されていないように見えた Prompty の入門編をブログにしてみました。 OpenAI のエンドポイントにも対応していますが、ここでは Azure OpenAI の利用を想定して書いています。…
Microsoft Build 2024 の自分用のメモです。 Azure OpenAI 関連の更新情報で気になった内容の一部をさっとまとめました。 ブログに公開するつもりがなかったので雑なメモ程度に書いてたやつです。 まだドキュメントをさらっとみた段階で実際さわってはないの…
Azure OpenAI でストリーミングのレスポンスを使うと、遅すぎて思ってたのと違うんだが...と思うことありませんか？ それを解消する手段の一つが Asynchronous Modified Filter (非同期変更フィルター) です。 Asynchronous Modified Filter (非同期変更フィ…
今回は、Azure workbooks を使って Azure OpenAI の Insights を監視する第一歩の踏み出し方って感じの話です。 監視をするには Azure OpenAI Insights の workbook をセットアップ Azure OpenAI Insights を確認する Overview タブ Momitor タブ Insights …
Code Interpreter とは Azure OpenAI での利用 Azure OpenAI Studio でのはじめ方 Code Interpreter を使うための準備 Code Interpreter を試す 数学の問題を試す 他の活用例 余談: Code Interpreter の実行環境はどうなってるのか 参考 Code Interpreter と…
2023年11月の OpenAI 側のアップデートによって Azure OpenAI のモデルのバージョンと最大トークン数、そして価格が更新され、そのモデルが Azure OpenAI では2023年12月に順次ロールアウトされて利用できるようになりました。 こらから新たに Azure OpenAI …
11月6日の OpenAI Dev Day の時期に openai のライブラリ は v.0.x 系 (最終的には v0.28.1) から v1系にアップデートされました。 Azure OpenAI へのアクセス方法も breaking changes が発生しています。過渡期になり、openai のライブラリはバージョン指定…
今回は、Function App/App Service から Azure OpenAI へアクセスを仮想ネットワークのみにしたいというケースの話です。 Azure OpenAI へのアクセスを仮想ネットワークのみに限定することは可能ですが方法はいくつかあります。 そして Azure OpenAI のみに…
OpenAI / Azure OpenAI でとりあえずトークン数を数えることってちょいちょいありますよね。今回は C#, TypeScript のついでに Python もメモしておこうかなという話です。 はじめに: トークンとは Python: tiktoken C＃ Tokenizer Semantic Kernel: GPT3Tok…
Azure OpenAI の登場で新たに Azure に来たユーザーも増え、まだ操作が慣れていないとアクセス許可どうすんねんと思う人も増えただろうと思ってのネタになります。 Azure ポータルで設定・確認する Azure ポータルで IAM を変更 割り当てられたユーザーの確…
前回から引き続きで、DeepLearning.AIというサイトの無償コンテンツのひとつで OpenAI + Python の「ChatGPT Prompt Engineering for Developers」を受講して学んだことのまとめメモの2回目です。 プロンプトエンジニアリングの基礎: 1/3 (C# +Azure.OpenAI …
DeepLearning.AIというサイトでは、アカウントを登録するだけで AI に関する学習コンテンツがあります。 その中の無償コンテンツのひとつで OpenAI + Python の「ChatGPT Prompt Engineering for Developers」を受講してみました。 そこで学んだことを Azure…
今回は C# で OpenAI の SDK で ChatCompletion API を使ってチャットのサンプルコードを書きつつ、SDK を使うとき最初に知っておきたいいくつかの Tips を書きます。今回はざっくり以下を環境で話を進めます。 Azure OpenAI でモデルは GPT-3.5 以降のモデ…
