Gemini入门系列(3)——在线文件处理
上一篇谈了本地文件处理。本地文件处理虽然方便,但收到很多方面制约,例如文件大小、文件内容等,另外网络传输也可能导致不成功。
上一篇谈了本地文件处理。本地文件处理虽然方便,但收到很多方面制约,例如文件大小、文件内容等,另外网络传输也可能导致不成功。
Gemini模型的重要特点是multimodal多模态,可以对图片视频语音等处理。将文件传给Gemini前需要让Gemini知道去哪里找到文件,通常可以把文件放在本地或者线上。以下示例展示本地文件的使用方式。
最近使用Gemini的用户越来越多。国内Gemini的资料相对较少,很多用户遇到问题很难快速找到资料,所以打算记录一下Gemini的基本使用,方便查找。
本系列假定已对GCP(Google Cloud Platform)有基础使用经验并可以科学上网。
使用AI Studio或者其他LLM平台时,很多用户习惯使用api key授权。但在Vertex需要通过服务账号(Service Account)key的方式授权。这个过程并不复杂,但是没有使用过服务账号的用户,可能对服务账号、key、IAM、Role的概念及操作流程有些疑惑。下边就通过简单demo进行说明。
GKE的用户越来越多,近期很多大模型也开始部署在GKE。但是随着镜像越来越大,创建pod时,镜像的拉取速度成为瓶颈。
去年,GKE推出了镜像流加速(ImageStreaming),结合Artifact Registry实现node pool层的镜像缓存加速,但是这种方式有一定限制,镜像必须保存在Artifact Registry,并且第一次拉取镜像时速度仍然较慢。前不久,GCP又推出了通过附加磁盘加速镜像的方式,解决了这两个限制。
GCP官方文档相关说明和操作步骤,但是写的不够详细,并且有些小错误和小坑,下边做详细解释,并比较各种方式镜像拉取速度。
对象存储作为云计算infra的基础,有着广泛的用途,GCP上提供的对象存储——gcs也不例外。
但是,gcs的使用通常要通过sdk或者http client调用,增删改查等常规文件操作很不方便。gcsfuse作为GCP提供的小工具,可以将gcs挂载到本地,当作本地文件系统进行操作,大大方便了gcs的使用。
下边就简单聊聊gcsfuse的操作
随着IPv6的普及,越来越多GCP的用户开始使用IPv6.在GCP,IPv6的配置和IPv4略有不同。本文简单讲解如何在GCP虚机配置IPv6。