クラウドインフラ構築記

現在AWSの構築支援に携わっております。今注視しているのは、GKE、BigQuery、Google Dataflowなどサービスを展開しているGoolge Cloud Platformです。

Bedrock開発入門書籍レビュー

最初に、献本をいただき、ありがとうございました。

第1章 生成AIの基本と動向

生成AIの機械学習のなかでの位置づけの基本から生成AIの代表的なプロダクトについての概要解説されています。

第2章 AWSの生成AIサービス Amazon Bedrock入門

アウトプットは、Qiita、DevelopersIOのほかに、Zennにもあります。

https://zenn.dev/topics/bedrock

 

Bedrockにリクエストしたデータはモデルの学習に利用しないのでビジネスユースにも使えます。

Model lifecycleが設定されていて、古いバージョンのモデルはつかえなくなることがあります。直近だと、Claude v1.3、Titan Embeddings – Text v1.1が該当します。

https://docs.aws.amazon.com/bedrock/latest/userguide/model-lifecycle.html

※限定プレビューですが、アカウントマネージャ経由でないと利用できないことがあります。

Bedrockを実際に試せるセッションでは、Playground、API boto3からBedrock APIを利用する方法が細かく記載されています。

Converse API では、invokeModelだとbase64にエンコードする必要がありましたが、bytesをそのままコンテキストに読み込ませることが可能です

テキストでは、Python 3.9をベースに記載されていますが、Python 3.12.3でも問題ありません。

第3章 生成AIアプリの開発手法

実際生成AIアプリを開発するうえでのプロンプトの基礎を学べます。

書籍では、Langchain 0.2に対応されています。(アップデートの激しい分野にもかかわらず、書籍執筆中に最新情報を取り入れられるものは取り入れられています)

トークン数をカウントできるtypescriptも公開されています。issueはあがっていますが、こちらもCluade 3には現在未対応。

https://github.com/anthropics/anthropic-tokenizer-typescript

tiktoken https://github.com/openai/tiktoken

ChatBedrockはAWS_DEFAULT_REGIONあるいは、.aws_configを参照する。ChatBedrockのregion_nameで指定することも可能。

  Error raised by bedrock service: Did not find region_name, please add an environment variable `AWS_DEFAULT_REGION` which contains it, or pass `region_name` as a named parameter. (type=value_error)

第4章 社内文書検索!RAGアプリを作ってみよう

ベクターデータベースの話から、Agent for knowledge Base、Langchain ( LCEL )での実装方法まで決め細かく解説しています

 

MongoDB Atlas は、M0 Sandboxに関してはスペックは低いですが、1サーバー無料で利用できるので、検証などに最適です。Agent for Knowledge baseで、MongoDB Atlasを使うには、M1以上のスペックになります。

第5章 便利な自律型AIエージェントを作ってみよう

2章のstreamlitとlanghcainのサンプルコードに修正してReActAgent対応させることもできそう

第6章 Bedrock のさまざまな機能を使いこなそう

カスタムモデルインポートはプライベートプレビューなので、import jobのQuotaが承認されることが前提です。

以下発表直後のインポートモデルの説明をされている動画になります。

https://www.youtube.com/watch?v=kDAheDCDDJE

Bedrock Studioは、IAM Identify Center必須なので利用するBedrockリージョンとそろえておかないといけなそうです

第7章 さまざまなAWSサービスとBedrockを連携しよう

Bedrockのリクエスト監視、ログなどBedrockの運用するうえでポイントになることが書かれています

 

第8章 生成AIアプリをローコードで開発しよう

ローコードで実際試せるハンズオン形式でなっています。

こちらのハンズオンもお薦めです。

AWSの生成AIで社内文書検索! Bedrockのナレッジベースで簡単にRAGアプリを作ってみよう

https://qiita.com/minorun365/items/24dfb0ea3afde6ed0a5

6

第9章 Bedrock以外の生成AI関連サービスの紹介

Amazon QについてもSageMaker Canvasについて

Amazon Qビジネスアプリケーション開発を実際試すことが可能です

 

第10章 活用事例

執筆者の所属会社の事例紹介がされています

最後に

Cloud9の構築方法も記載されているので、生成AI初心者に入門書としてお薦めできると思います。

 

 

 

 

索引

AWS Bedrock Documentation

https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html

Anthropic Developer documentation

https://docs.anthropic.com/en/docs/intro-to-claude

Cohere documetation

https://docs.cohere.com/

コメントは受け付けていません。