Qixingchen

基于 ChatGPT 的客服系统

2023-03-06T00:00:00+00:00

基于 ChatGPT 的客服系统

在 OpenAI 放出 gpt-3.5-turbo 模型之后,我们决定使用 AI 来加速目前我们重复率最高的工作:客服.

不过考虑到我们的帮助手册及FAQ总字数已经超过30万字,而 gpt-3.5-turbo 每次对话最多只能支持 4096 个 Token (经过我们的测试,这大概是三千多个简中字),还需要考虑客户的问题,回答和系统配置占用的字符.所以我们需要一个办法来让 gpt-3.5-turbo 可以在 2000 字左右时了解我们的的帮助手册.

在参考了 OpenAI Cookbook:Question_answering_using_embeddings , OpenAI Cookbook:web-crawl-q-and-a 以及 paul-graham-gpt 之后,我们决定按照以下方法来实现:

使用语雀的 API 获取我们的帮助手册及FAQ
获得到每篇文章后,按照 markdown 的标题进行分割,每个小标题对应一块语料.并在数据库中记录对应的网址和锚点,方便后续输出时同步给出参考文档.
使用 openai embeddings 获取每块语料的向量表示.
对用户的提问也使用 openai embeddings 提取向量.
使用余弦相似度计算用户提问和每块语料的相似度,并返回相似度最高10块的语料.
对每块语料按照相似度从高到低的顺序对 token 进行求和,获取小于 2000 时的语料列表.

按照以下格式给与 gpt-3.5-turbo 的 system role 输入.

 你是 $$$ 系统的客服,请按照后续给予的使用手册回答用户的问题.
 使用手册内容如下:

获取 gpt-3.5-turbo 的输出.

目前处于安全考虑, gpt-3.5-turbo 的输出仅发送到客服汇总群,并由客服人员进行回复.同时给与客服相关语料的标题及链接,方便客服人员进行回复.

GitLab Runner for autoscaling with Docker Machine on Google preemptible VM

2018-04-12T00:00:00+00:00

前言

目前状态

目前我们的 runner 跑在 Aliyun 与开发者实体机上,Aliyun 服务器无法向 Google Play 提交应用,而开发者实体机上运行时会阻碍其他程序运行.而且在临近发版时,由于 Runner 数量不足,会造成编译阻塞影响发版节奏.

云服务

由于编译 Android 应用需要内存不少,主流云服务商报价都不低,例如 digitalocean 一台 2vCPU 4G 内存的机器需要 $20/mo,Google Cloud 上 2vCPU 4G 内存机器报价为 $12.96/mo,Aliyun ECS 计算型 c5 2vCPU 4G 内存每年报价为￥2393.40(约 $31.76 每月)

竞争实例与自伸缩

大部分云服务商都对”竞争实例”或者”抢占式实例”有大幅优惠.
“竞争实例”的意义是,在服务商有机器设备空闲时,你才能申请到使用权,而且当服务器资源紧张时,你的设备会被强制收回.
比较适合能够分布式处理或者运行时长较小的服务运行.
GCE 的抢占式实例价格为正常实例的 20%,而且对于小于 10 分钟内就被 GCE 收回的时长不收取费用.

Google 的文档上声称即使在最繁忙的时段,还是有部分抢占式实例可供申请,只要你的需求可以使用这种随时会被关闭机器的服务来完成,选择抢占式实例能够节约大量成本.Google 的数据表明每个项目每7天的平均抢占率在5％和15％之间变化.我在运行时只遇到过一次抢占.

而 Gitlab 的 Runner 支持使用 Docker-Machine 来运行自伸缩实例,当有任务时在 GCE 上新建一个VM 机器,并在任务完成时删除机器.

那么怎么才能弄一个自伸缩的 runner 呢

首先呢你要有一个用来管理扩展出来的runner的服务器,当然最好和runner在同一个内网.所以最好的解决方案就是直接在 GCE 上建一个实例啦.而且根据 GCE “始终免费” 政策,可以免费运行一个 f1-micro (1 vCPU 0.6G RAM 突发性能实例),完全足够作为管理服务器了.

按照 https://docs.gitlab.com/runner/executors/docker_machine.html 的引导,在这个管理机上安装 “GitLab Runner for autoscaling with Docker Machine” 顺带可以把代理容器注册服务和缓存服务 (“proxy container registry and cache server”)一起装在这个设备上.

下面是 config.toml (gitlab runner 配置文件)在使用 GCE 的示例

[[runners]]
  name = "gce-main-scal"
  url = ""
  token = ""
  executor = "docker+machine"
  # 最大伸缩量
  limit = 3
  [runners.docker]
    tls_verify = false
    image = "ubnutu:16.04"
    privileged = false
    disable_cache = false
    volumes = ["/cache"]
    shm_size = 0
    # 缓存服务配置
  [runners.cache]
     Type = "s3"
     ServerAddress = "10.138.0.2:9005" #your minio-instance
     AccessKey = "" # minio AccessKey
     SecretKey = "" # minio Secret
     BucketName = "cache"
     Insecure = true
     Shared = true

  [runners.machine]
  # 配置见 https://docs.gitlab.com/runner/configuration/advanced-configuration.html#the-runners-machine-section
    IdleCount = 0
    IdleTime = 120
    MaxBuilds = 3
    MachineDriver = "google"
    MachineName = "ci-as-w-%s"
    MachineOptions = [
      # docker machine 配置 见 https://docs.docker.com/machine/drivers/gce/
      "google-project=jwb-android",
      "google-zone=us-west1-c",
      "google-machine-type=custom-2-5120",
      "google-machine-image=ubuntu-os-cloud/global/images/ubuntu-1604-xenial-v20180405",
      "google-tags=gitlab-ci-runner-worker,project-noip",
      # 抢占式实例
      "google-preemptible=true",
      "google-use-internal-ip=true",
      # 代理容器注册服务
      "engine-registry-mirror=http://10.138.0.2:6000"
    ]

然后在这个管理机上安装 gcloud SDK 并登入有创建 VM 实例权限的账号.

然后就要弄一个能编译所需项目的 docker 啦.嗯, Gitlab 的 autoscaling 只有 Docker Machine 模式,不能在创建出的 VM 上直接编译.如果不需要加入什么个性化的配置文件就能编译那就太好了,直接在项目的 .gitlab-ci.yml 中的 image 上填入所需的镜像就可以开始了.
然而我的项目需要加入一些保密的配置文件才能运行,在对比了几家私有 docker image 托管服务商之后我还是选择了 Google Container Registry ,一是和要使用的服务器处在同一个内网,下载更快(大概吧),另一个是 GCR 只需要支付很廉价的储存价格和出站流量(内网并不需要233)价格就可以了,不像其他托管商按照镜像数量收费,基本都是 $10/mo 起.
按照 https://cloud.google.com/endpoints/docs/openapi/docker-image 推送了 docker 镜像,然后编译.结果遇到了无权 pull docker image 的错误.按照 https://docs.gitlab.com/ee/ci/docker/using_docker_images.html#define-an-image-from-a-private-container-registry ,将 docker login 信息在 gitlab 项目页面的 CI secret variable 配置中添加 DOCKER_AUTH_CONFIG 即可.(是的我用了一天的时间试图在创建出来的 VM 上登入有权限的 Gcloud 用户然后才发现可以直接放入 docker login 信息)

其他

如果在创建 Google VM 实例时申请了静态 IP 地址,记得在删除实例后去网络管理中把不需要的静态 IP 地址释放了.GCE 并不会在删除实例时自动释放,而且 IP 地址很贵(我的 75% 账单来自一个忘记释放的 IP 地址 ORZ )

如果你需要在编译的 Docker 放什么全局配置文件,有个小提示, Docker 运行时的默认登入用户是 Root.

结束

目前设定最多同时会有3个 runner 进行编译,目前平均每天相关费用不到 $0.05.
后续跟进下 Google container builder,每天提供了 120 分钟的免费基础编译时间,看看能不能与目前的开发模式相容.

参考

gitlab 官方迁移到 GCP 相关 ISSUR:
https://gitlab.com/gitlab-org/gitlab-runner/issues/3023
https://gitlab.com/gitlab-com/infrastructure/issues/3131

docker 文档:
Docker Machine drivers:Google Compute Engine
Quickstart for Container Registry

Google Cloud 文档:

Building a Docker Image
Container Registry 价格
 Container Registry Advanced Authentication Methods
Google Compute Engine 价格
 Google Cloud SDK install
Creating and Starting a Preemptible VM Instance
CONTAINER BUILDER Cloud Container Builder Automating Builds using Build Triggers
Container Registry Pushing and Pulling Images
Preemptible VMs now up to 33% cheaper

其他文章:

GitLab CI Runner auf Google Compute Engine betreiben
Auto-scaling Gitlab Runner in GCE
Autoscaling Gitlab-CI builds on preemptible Google-Cloud instances

360 快视频事件相关评论

2018-02-20T00:00:00+00:00

数据库泄露

并没有任何证据表明 B 站数据库出现了异常泄露.无论是投稿视频,评论还是用户头像与用户简介,都是公开信息,并不需要拖库才能拿到.爬虫就足够了.

密码安全

这里给出三个忠告:

不要在不同网站使用同一份密码
不要在其他网站使用账号密码登入另一个网站的账户.任何情况下,账户密码只能在对应网站的域名下输入.如果您不能很好的分辨什么是对应网站域名,建议您遵从浏览器自动填充功能的指导.
违反上述两个的,建议您修改相关密码.

我不建议没有版权的用户滥发 DMCA 通知与以版权为理由进行举报.除了给监督部门和您的 UP 带来麻烦以外没有任何作用.
如果您看到您喜欢的 UP 的视频被盗用了,请联系他让他与 B 站版权部门进行沟通.联系方式见此链接.

停用某些国产软件

我相信您会在停用某型国产软件时遇到困难,例如反复的静默安装等.
您可以通过此工具永远远离这些软件.

关于 360 先锋队

emm 先锋队也就是个高级用户群,这也能叫做联系了有关人员么…

Android 权限

https://www.bilibili.com/video/av19811009/ 评论区#4

我是不会明白这样的评论能够拿到 700 个赞的理由的
从 “查看你系统中的所有账户” 得到 “可以查看密码”,
从 “通过电子邮件发送邀请” 得到 “安装的一瞬间你的手握所有权就归别人了”,
还 “支付宝都有可能被盗” 以及 “有root的赶紧看看有没有什么奇怪的文件夹，没有的赶紧查毒，自己查，不知道为什么所有杀毒软件都不会报毒”
这种钓鱼言论似乎评论区被骗得不少,我不知道的是此条评论的发出者是真的不懂而且想来搞事还是就是来钓鱼的.

列出账户只能获取到系统上的账户,没有可能获取到密码.什么想法才会认为 Google 会给一个获取密码的权限出来,除了密码管理器以外哪有明文密码让你来查?这个权限的风险在于能够更加准确的识别您的身份.

写入日历权限的发送电子邮件只是日历程序附带的功能.这个权限在大陆的风险更加小了,因为电子邮件和日历的使用率都不高.

支付宝不会因为你安装一个软件就可以这么简单的被盗,特别是快视频还没短信读取这个权限.

至于后面关于 Root 的描述,如果你是一个 Root 用户,还相信上述言论,我建议您立即联系您的设备制造商进行反 Root.

不过非常欣慰的是,终于有用户开始关注 Android 应用的权限状况了.大陆应用滥用权限的现象非常严重,用户的关注能够更好的监督厂商认真思考获取每个权限的意义.

Data Binding Formatter 的更新

2017-08-11T00:00:00+00:00

写完第一版的 Data Binding Formatter 后,闲置了快一年,突然我又拾起来更新了下.

使用 IDEA 源码版本查看 Plugin SDK 源码

作为 Java 开发者,看源码是习惯性动作.然而默认情况下,只能看到混淆后的代码.可以按照 JetBrans 的指导将 IDEA 源码附加在 Plugin SDK 上.
值得注意的是,Plugin SDK 依旧需要使用 IDEA 可执行版本,而不能选择源码版本,不然你会得到一片 import 失败的壮观景象(不要问我是怎么知道的)

PSI 相关

PSI 是什么呢?全称是 Program Structure Interface,IDEA 都使用 PSI 表现代码.通过对 PSI 的操作,可以直接修改对应的代码.
有个很好的工具,Tools 下的 PSI viewer,可以查看当前文件的 PSI 组织.不过需要加载至少一个 plugin module 才会显示.可以按照 JetBrans 的指导强制开启.
Data Binding Formatter 中的 WriterUtil 使用了增加一整个方法,增加方法的 Annotation,向一个方法内部增加一行语句,增加一个变量等操作.
而且,FieldUtils提供了寻找变量 getter 与 setter 的方法.

Data Binding Formatter

目前 Data Binding Formatter 已经具备了列出所有变量,寻找其 getter 与 setter 判断是否含有 Data Binding 部分.能够自动向现有的 getter 与 setter 增加 Data Binding 部分代码的所有功能.后续可能允许自定义 notifyChange 方法的命名,因为这个命名可能会引发歧义,与其他模板类似的命名冲突.
不过截至目前,Data Binding Formatter 已经比较完善了,可以在各种需要 Data Binding 的地方进行使用www.

一个挺不错的短链服务

2017-06-06T00:00:00+00:00

缘起

SSR 支持服务器列表订阅了,Gist 的链接比较长,就想找一个短链服务来用

rebrandly

支持使用 custom domain

在 Domains 页面选择 “New Domain”,然后选择页面最下方的 setup DNS 即可.

后缀支持编辑

如果你提供了自己的域名,那么后缀就可以随你编辑了,只要不和旧的短链重叠即可.
不提供域名也可以编辑,只不过可能你选的短链已经被别人用了.
短链发布后还可以随意编辑和删除

后缀支持emoji

可以使用 your.domain/😘 这样的链接

支持 HTTPS 链接

只要你的域名提供了证书即可.我使用 cloudflare 来做这件事.

支持 API

API 还是挺全的,

支持群组

可以邀请其他人一起使用你的域名

免费

短链服务是免费的,收费的只是高级分析功能

限制

后缀只支持小写字母,数字,上下划线和 emoji
10000 links
100 domains
100 teammates
50 tags
50 retargeting scripts
10 API keys

最后

个人觉得还是一个挺不错的短链服务

为什么我们当初没有选择 Kotlin

2017-05-24T00:00:00+00:00

今年的 Google I/O 终于钦定了 Kotlin 作为 Android 第二个官方的开发语言. 一年前,我还是实习生的时候,我司就在尝试 Kotlin 了,并运用在了家校通,赛诚PAD 上.
但是为什么后续的应用没有使用 Kotlin 开发呢?

最初遇到的问题

lint

Kotlin 在当时不支持 lint ,很多本可以发现的问题,在使用 Kotlin 后就无法发现了.
甚至我实习的第一周,就在家校通的多个页面错误的使用了 getDrawable(int, android.content.res.Resources.Theme) 这个 API 21 的方法.导致上线后所有低于 5.0 的设备闪退.当然这大部分责任是我们没有完善测试的锅,但没有 lint 很大程度上导致了后续开发时我们都战战兢兢,生怕用错了方法.
后来 Kotlin 支持了 lint ,然而很长时间内都只支持到 Android Studio 1.5 .于是我在 AS 的四个频道之外,又放了一个 1.5 的包,每次开发 Kotlin 的应用来使用.

Data Binding

我司开发时使用了 Data Binding,并且使用的很多.当时 Data Binding 本身还不稳定,有时会出一些奇怪的错误.和 Kotlin 混用后,遇到的错误更多了,还无法确定究竟是哪方面出了错误.
那为什么选择了继续使用 Data Binding 而不是选择停用 Data Binding 使用 Kotlin 呢? 因为 Data Binding 真的有用,虽然最初踩了一些坑,但使用起来之后,不管在代码量上,代码结构上,Debug 难度上都有很大的益处.
然而使用 Kotlin 后,我们没有发现任何益处.

Kotlin 的问题

使用一个新的技术,一定要有一个使用它的理由,比如可以节约时间,或者可以减少错误.当然官方选择也是一个重要的理由.
那么 Kotlin 有什么优势呢?

data class

每次介绍 Kotlin ,都会拿 data class 进行开场.的确,对于一个基础的数据类,Kotlin 看上去很简单.然而实际使用上就是另一回事了.
如果你需要一些自定义的 setter 呢(比如使用一个类来设定多个属性)? ,如果你需要使用 Data Binding 呢?
你就会发现 Kotlin 的 Data Class 没有任何意义.getter 和 setter 都需要再次重写.
而且在Java 中 getter ,setter, toString 等都可以使用 IDE 自动生成.包括 Data Binding 属性也可以使用 Data Binding Formatter 来生成.如果我们当时使用 Kotlin 来写 data class, 我想我也许会再写一个 Kotlin 版本的 Data Binding Formatter,在 IDE 允许的情况下.

null 安全

Kotlin 另一个重要优势,”Null 安全”实际上也没什么优势.
Android 已经有了 Annotations 来处理 Null 的问题.
另外由于 Android 的生命周期的特性,例如在 OnCreate 中赋值的变量,在 Kotlin 中依旧需要声明为可空变量,并没有比 Java 高明多少.
“?.”的语法糖,实际上大部分如果可能为空的情况,空和非空都需要进行处理(例如对用户进行提示),所以这个语法糖基本用不上.

多样的写法

Kotlin 的写法很多,从一个方法返回就有多种写法.也许有人觉得这是优点,然而对于企业级的开发协作来说是难以接受的.最终使用那种方法来写,又可以争论个几天.

生态的缺失

当然最重要的还是生态不完善.Java 有大量的扩展, 活动模板等帮助开发.然而当时 Kotlin 什么都没有.
另外,Kotlin 的与 Java 完全兼容说的是 Kotlin 调用 Java 时,千万不要觉得反过来也是如此.
也就导致了想用 Kotlin 的项目发现,写底层方法很适合 Kotlin ,然而 Java UI 层调用就坑了.
不会遇到 Java 层调用的 UI 层,又发现 Kotlin 没什么用武之地,而且没有扩展与活动模板等帮助,还得纯手写.

结论

当然,本文并不是说 Kotlin 没有优势,只不过想提醒你, Kotlin 并没有宣传的那么好.

后续我们会再次使用 Kotlin 么?
当然会.既然 Kotlin 已经是 Android 官方的开发语言了,有理由相信,在某一个时间点后,我们会选择使用 Kotlin 来开发新的需求.

Flutter 预览介绍

2017-04-18T00:00:00+00:00

Flutter

Flutter 介绍

Flutter 是一个使用同一代码构建高性能,高保真的 iOS 与 Android 应用的 SDK. 目前由 Google 主持开发.

Flutter 设备要求

开发设备

支持 win Mac Linux 三端.集成 iOS 应用要求 Xcode.

终端设备

iOS 端要求 64 位设备.iOS 8 及以上
Android 端要求 Android Jelly Bean, v16, 4.1.x 及以上(目前 Android 端开发时最低支持 Kitkat, v19, 4.4.x )
不推荐在平板上使用,目前不支持 wear
目前不支持 web 与桌面端

Flutter 优势

拥抱差异.包括 iOS Android 两端在滚动行为,图标与排版上的差异都可以使用同一代码来实现.
高性能.基于底层代码(Android 上为 C++ with NDK,iOS 上为 C++ with LLVM),不使用 WebView 渲染,不涉及翻译.能够保证 60 fps 的绘制帧率.
可以与原生代码互调.
提供了大部分 Material Design 控件的实现(甚至比 Android Design Support 实现的更多).
足够小. SDK 大小在两端都在 8MB 左右,可以接受这样的体积增加.

Flutter 劣势

仍在 Preview 阶段,还未释出 1.0
不支持 3D 应用(不过我们也不做)

Data Binding Formatter Plugin

2016-09-13T00:00:00+00:00

旧文转移计划

现已在 JetBrans Plugin 中心提供下载

直接搜索 Data Binding 就可以找到了.

写一个 Android Data Binding 的实体类是一个非常痛苦的事情,要为所有 getter 函数添加 @Bindable 注解, 对所有 setter 函数加入 notify .如果一个实体类有 10 几个成员对象,自动生成 getter 和 setter 之后的操作把手也累断了.

所以我写了一个 IDEA (Android Studio 基于 IDEA 社区版) 的扩展,来自动完成这些操作.

对于一个实体类

public class TestBean {
    private String testField1;
    private List<Boolean> testField2;
}

调出生成菜单,选择 Data Binding Formatter 即可自动生成以下代码:

public class TestBean {
    private String testField1;
    private List<Boolean> testField2;
    private transient PropertyChangeRegistry propertyChangeRegistry = new PropertyChangeRegistry();


    @Bindable
    public String getTestField1() {
        return testField1;
    }

    public void setTestField1(String testField1) {
        this.testField1 = testField1;
        notifyChange(BR.testField1);
    }

    @Bindable
    public List<Boolean> getTestField2() {
        return testField2;
    }

    public void setTestField2(List<Boolean> testField2) {
        this.testField2 = testField2;
        notifyChange(BR.testField2);
    }

    private void notifyChange(int propertyId) {
        if (propertyChangeRegistry == null) {
            propertyChangeRegistry = new PropertyChangeRegistry();
        }
        propertyChangeRegistry.notifyChange(this, propertyId);
    }

    @Override
    public void addOnPropertyChangedCallback(OnPropertyChangedCallback callback) {
        if (propertyChangeRegistry == null) {
            propertyChangeRegistry = new PropertyChangeRegistry();
        }
        propertyChangeRegistry.add(callback);

    }

    @Override
    public void removeOnPropertyChangedCallback(OnPropertyChangedCallback callback) {
        if (propertyChangeRegistry != null) {
            propertyChangeRegistry.remove(callback);
        }
    }
}

不过现在还需要手动 import BR 类,并向类添加 android.databinding.Observable 接口.

后续应该也能自动完成,不过刚刚开始开发 IDEA 扩展,还不是很会用 Psi 类.

项目地址 : GitHub - Qixingchen/DataBindingModelFormatter: quickly add data binding getter and setter for a model

欢迎指出错误指出,或者提交pr wwww

后续计划:

找出已存在的 getter 和 setter
使用列表,使得可以选择需要增加 binding 的成员对象.