Dify是一款开源的大模型应用开发平台，旨在帮助开发者快速搭建生产级的生成式AI应用，它支持Claude 3、OpenAI等多种大模型，同时与多个模型供应商合作，确保开发者能根据需求选择最适合的模型。本文就以亚马逊云科技为例，为大家介绍通过Amazon Bedrock上Claude 3与Dify的集成搭建生成式AI应用，仅供参考。
本文涉及的亚马逊云服务：
1、Amazon Bedrock
Amazon Bedrock是一项完全托管的服务，因此用户无需管理任何基础设施，并且可以使用已经熟悉的AWS服务将生成式人工智能功能安全地集成和部署到用户的应用程序中，目前提供免费试用服务。
2、Amazon EC2
Amazon EC2是一种访问可靠、可扩展、可用性高达99.99%的云服务器，目前提供免费试用服务，提供的免费套餐配置为1核1G、30GB SSD，包括每月750个小时的Linux和Windows t2.micro实例，可免费试用12个月。
新用户注册亚马逊云科技账户，即可在控制台中试用以上免费套餐产品。
点击获取：免费亚马逊云服务
相关推荐：《如何注册亚马逊AWS账号？》
一、创建并配置Amazon EC2
1、进入亚马逊云科技官网，注册并完成登录操作。
2、进入AWS EC2控制台，点击启动实例。
3、完成基础配置信息，点击“启动实例”，等待Amazon EC2创建成功即可。
4、创建完成以后，通过SSH连接Amazon EC2。
详情可以参考：《Amazon EC2启动和连接实例的具体操作教程》
二、部署Dify大模型应用开发平台
目前Dify提供Docker、本地、以及K8S三种部署方式，用户可以结合自己的需求来进行选择，本文使用的是Docker的方式来进行部署。
1、连接成功以后，安装Docker环境。
sudo yum install docker
sudo curl -L https://github.com/docker/compose/releases/latest/download/docker-compose-$(uname -s)-$(uname -m) -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose
sudo systemctl start docker
sudo systemctl enable docker
docker-compose version
>> Docker Compose version v2.26.1
2、下载Dify代码，通过docker compose拉起环境。
git clone https://github.com/langgenius/dify.git
cd dify/docker
docker-compose up -d
3、待几分钟后，环境被拉起来，可以看到类似下面的输出：
4、查看进程信息。
sudo docker ps
如上面的信息后，则环境已经部署完毕，通过查看http://{public IP}/地址后，通过初始的配置账户后，登录后可以看到以下Dashboard信息。
三、通过Amazon Bedrock Claude 3与Dify集成创建AI应用
1、创建应用。
2、配置LLM Provider，本文选择Amazon Bedrock作为LLM provider。
3、配置AKSK。
注意：在配置Amazon Bedrock的Model Access时需要开启对titan-text-express-v1模型的访问，因为在验证时会验证对amazon.titan-text-express-v1的访问权限。
4、检验一下模型权限。
5、配置应用LLM，设置提示词如下：
我想让你担任{{jobName}}面试官。我将成为候选人，您将向我询问{{jobName}}开发工程师职位的面试问题。我希望你只作为面试官回答。不要一次写出所有的问题。我希望你只对我进行采访。问我问题，等待我的回答。不要写解释。像面试官一样一个一个问我，等我回答。
同时配置开场白的功能，开场白如下：
你好，{{name}}。我是你的面试官，Bob。你准备好了吗？
6、开始测试，设置面试职位和姓名之后，就可以开始对话了，同时可以比较不同模型的回复是否符合用户的需求。
如果结果不理想还可以调整相应模型参数，然后点击右上方“Publish”即可完成配置。
相关推荐：
