Bedrock対応 #75
Merged
Bedrock対応 #75
Conversation
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
tbrand
reviewed
Sep 25, 2023
packages/cdk/lambda/bedrockApi.ts
Outdated
| import aws4Interceptor from 'aws4-axios'; | ||
| import axios from 'axios'; | ||
| import { UnrecordedMessage } from 'generative-ai-use-cases-jp'; | ||
| import { IncomingMessage } from 'http'; |
There was a problem hiding this comment.
現状 OK ですが、GA されたら region は configurable or Lambda のリージョンとしないとですね。(Tokyo GA されたのに us-east-1 使っていたら悲しいので...w)
packages/cdk/lambda/predictStream.ts
Outdated
| const event = new EventStreamCodec(toUtf8, fromUtf8).decode(chunk); | ||
| if ( | ||
| event.headers[':event-type'].value !== 'chunk' || | ||
| event.headers[':content-type'].value !== 'application/json' |
There was a problem hiding this comment.
へー bedrock はいちいち json でくるんですねー
tbrand
reviewed
Sep 29, 2023
| @@ -12,8 +12,7 @@ Generative AI（生成系 AI）は、ビジネスの変革に革新的な可能 | |||
| |--------------------------------------------------------------------------------------------------------------|------------------------------------------------------------------------------------------------------| | |||
| | [](https://www.youtube.com/watch?v=9sMA17OKP1k) | [](https://www.youtube.com/watch?v=rkKZZSuVZUU) | | |||
|
|
|||
| > - 2023年8月現在、Amazon Bedrock はプレビュー版であるため、このリポジトリの実装には含まれていません。OpenAI を LLM としてサポートしていますので、そちらをご利用いただけます。Amazon Bedrock が GA になり次第、対応いたします。 | |||
| > - OpenAI を LLM として利用する場合は、別途利用料金がかかります。OpenAI 利用に関する情報は、事前に [OpenAI](https://platform.openai.com/) で確認してください。 | |||
| > **2023/09/29 現在、東京リージョンで Amazon Bedrock を利用することができませんので、バージニア北部 (us-east-1) リージョンを利用する設定にしています。こちらの [Model access 画面](https://us-east-1.console.aws.amazon.com/bedrock/home?region=us-east-1#/modelaccess) を開き、「Edit」 → 「Anthropic Claude にチェック」 → 「Save changes」 と操作していただいて、バージニア北部リージョンにて Amazon Bedrock (基盤モデル: Claude) を利用できる状態にしてください** | |||
| @@ -23,8 +22,7 @@ Generative AI（生成系 AI）は、ビジネスの変革に革新的な可能 | |||
|
|
|||
| > :white_check_mark: ... 実装されている、:construction: ... まだ実装されていない | |||
|
|
|||
| - :white_check_mark: OpenAI を LLM として利用 | |||
| - :construction: Amazon Bedrock を LLM として利用 | |||
| - :white_check_mark: Amazon Bedrock を LLM として利用 | |||
|
LGTM!! |
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.
This suggestion is invalid because no changes were made to the code.
Suggestions cannot be applied while the pull request is closed.
Suggestions cannot be applied while viewing a subset of changes.
Only one suggestion per line can be applied in a batch.
Add this suggestion to a batch that can be applied as a single commit.
Applying suggestions on deleted lines is not supported.
You must change the existing code in this line in order to create a valid suggestion.
Outdated suggestions cannot be applied.
This suggestion has been applied or marked resolved.
Suggestions cannot be applied from pending reviews.
Suggestions cannot be applied on multi-line comments.
Suggestions cannot be applied while the pull request is queued to merge.
Suggestion cannot be applied right now. Please check back later.
Issue #, if available:
#2
Description of changes:
Bedrock が GA されてから、main にマージする予定。
By submitting this pull request, I confirm that you can use, modify, copy, and redistribute this contribution, under the terms of your choice.