自动生成代码(代码AI助手)

发布时间: 2023-04-16

简介

代码生成是根据编程人员的输入,生成出编程人员想要的代码,能够帮助编程人员甚至独立生成代码,提高编程效率。

特色

本项目是基于预训练语言模型CodeGen的代码生成,具有以下优势:

  • 效果领先。CodeGen(16B)在HumanEval benchmark上评估指标已经超过OpenAI's Codex
  • 免费的Github Copilot。支持通过Github Copilot调用该模型,让你免费体验代码AI助理。
  • 高性能。基于FastGeneration打造高性能推理,毫秒级响应。具体加速指标可参考perf
  • 支持自定义数据集训练。可增加自己的代码数据加以微调,让其更智能。
  • 开箱即用。本项目提供TaskFlow接口,无需训练,仅需几行代码便可预测。

效果展示

  • Github Copilot代码提示效果展示

  • 解算法题效果展示。求解无重复字符的最长子串的长度
from paddlenlp import Taskflow

prompt = "def lengthOfLongestSubstring(self, s: str) -> int:"
codegen = Taskflow("code_generation", model="Salesforce/codegen-2B-mono",decode_strategy="greedy_search", repetition_penalty=1.0)
print(codegen(prompt))

结果输出为:

        if not s:
            return 0

        start = 0
        end = 0
        max_len = 0

        while end < len(s):
            if s[end] not in s[start:end]:
                max_len = max(max_len, end - start + 1)
                end += 1
            else:
                start += 1

        return max_len

Jupyter Lab插件配置

请参考codegenJupyterLabExt, 感谢生态开发者@chenqianhe的贡献!

GithubCopilot插件配置

以VS Code的插件为例

环境依赖

  • PaddleNLP >= 2.4.0
  • PaddlePaddle >= 2.3.1

其他依赖:pip install -r requirements.txt

代码结构说明

以下是本项目主要代码结构及说明:

codegen/
├── requirements.txt # 环境依赖
├── codegen_server.py # server启动脚本
├── run_clm.py # 训练评估脚本
├── run_clm.sh # 启动脚本
└── README.md # 说明文档

启动服务

python codegen_server.py
配置参数说明

在codegen_server.py中配置如下参数:

  • model_name_or_path:模型名,默认为 "Salesforce/codegen-350M-mono"
  • device:运行设备,默认为"gpu"
  • temperature:解码参数temperature,默认为0.5
  • top_k:解码参数top_k,默认为10
  • top_p:解码参数top_p,默认为1.0
  • repetition_penalty:解码重复惩罚项,默认为1.0
  • min_length:生成的最小长度,默认为0
  • max_length:生成的最大长度,默认为16
  • decode_strategy:解码策略,默认为"greedy_search"
  • load_state_as_np:以numpy格式加载模型参数,可节省显存,默认为True
  • use_fast:是否使用FastGeneration,可加速推理,默认为True
  • use_fp16_decoding:是否使用fp16推理,可节省显存和加速推理,默认为True

测试服务

import openai
openai.api_key = 'dummy'
openai.api_base = 'http://127.0.0.1:8978'
result = openai.Completion.create(
    engine='codegen', prompt='def hello', max_tokens=16, temperature=0.1)
print(result)
'''
<OpenAIObject text_completion id=cmpl-dmhoeHmcw9DJ4NeqOJDQVKv3iivJ0 at 0x7fe7a81d42c0> JSON: {
  "id": "cmpl-dmhoeHmcw9DJ4NeqOJDQVKv3iivJ0",
  "choices": [
    {
      "text": "_world():\n    print(\"Hello World!\")\n\n\n#",
      "index": 0,
      "finish_reason": "stop",
      "logprobs": null,
    }
  ],
  "usage": {
    "completion_tokens": null,
    "prompt_tokens": null,
    "total_tokens": null
  }
}
'''

注意:如果要从本地访问服务器,127.0.0.1需要换成服务器的对外IP。

配置插件

打开用户设置(settings.json),增加一行配置

    "github.copilot.advanced": {
        "debug.overrideEngine": "codegen",
        "debug.testOverrideProxyUrl": "http://127.0.0.1:8978",
        "debug.overrideProxyUrl": "http://127.0.0.1:8978"
    },

接下来就可以愉快地使用了

注意事项

  • 如果使用FastGeneration,需要设置codegen_server.pyuse_fast=True,第一次推理会涉及到编译,会耗费一些时间。FastGeneration的环境依赖参考这里
  • 如果要使用自己训练好的模型,可以设置codegen_server.pymodel_name_or_path为本地模型路径。
  • 如果要从本地访问服务器,上述的127.0.0.1需要换成服务器的对外IP。
  • 如果出现下方的提示和报错,则说明FastGeneration没有启动成功,需要定位下失败的原因。或者也可设置use_fast=False,不启动FastGeneration加速,但推理速度会较慢。
  FastGeneration is not available, and the original version would be used instead.
  RuntimeError: (NotFound) There are no kernels which are registered in the unsqueeze2 operator.
  [Hint: Expected kernels_iter != all_op_kernels.end(), but received kernels_iter == all_op_kernels.end().] (at /home/Paddle/paddle/fluid/imperative/prepared_operator.cc:341)
  [operator < unsqueeze2 > error]

训练定制

数据准备

从本地文件创建数据集

在许多情况,我们需要使用本地数据集来训练我们的代码生成模型,本项目支持使用固定格式本地数据集文件进行训练。

本地数据集文件格式如下:

  • train.json/test.json 文件格式: 每行为一个jsonline
{
    "code": "from paddlenlp.transformers import CodeGenForCausalLM\n\n\nmodel = CodeGenForCausalLM.from_pretrained('Salesforce/codegen-2B-mono')\n"
}

更多数据集读取格式详见数据集加载自定义数据集

模型训练

运行如下命令即可在样例训练集上进行finetune,并在样例验证集上进行验证。

# GPU启动,参数`--gpus`指定训练所用的GPU卡号,可以是单卡,也可以多卡
unset CUDA_VISIBLE_DEVICES

python -m paddle.distributed.launch --gpus 0,1 run_clm.py \
            --model_name_or_path Salesforce/codegen-350M-mono \
            --block_size 1024 \
            --output_dir output \
            --train_file train.json \
            --validation_file test.json \
            --num_train_epochs 5 \
            --logging_steps 10 \
            --save_steps 1000 \
            --per_device_train_batch_size 2 \
            --per_device_eval_batch_size 2 \
            --learning_rate 1e-4 \
            --warmup_ratio 0.1 \
            --do_train \
            --do_eval \
            --device gpu

使用多卡训练可以指定多个GPU卡号,例如 --gpus "0,1"

关键参数释义如下:

  • gpus 指示了训练所用的GPU卡号。
  • model_name_or_path 指示了finetune使用的具体预训练模型,可以是PaddleNLP提供的预训练模型(详见模型列表),或者是本地的预训练模型。如果使用本地的预训练模型,可以配置本地模型的目录地址,例如: ./checkpoints/model_xx/,目录中需包含paddle预训练模型model_state.pdparams。如果使用PaddleNLP提供的预训练模型,可以选择下面其中之一。
  • block_size 表示训练时候数据被拆分的块数。
  • output_dir 表示模型的保存路径。
  • train_file 本地训练数据地址,数据格式必须与dataset_name所指数据集格式相同。
  • validation_file 本地测试数据地址,数据格式必须与dataset_name所指数据集格式相同。
  • num_train_epochs 表示训练轮数。
  • logging_steps 表示日志打印间隔。
  • save_steps 表示模型保存及评估间隔。
  • per_device_train_batch_size 表示训练时每张卡上的样本数目。
  • per_device_eval_batch_size 表示测试时每张卡上的样本数目。
  • learning_rate 表示基础学习率大小,将于learning rate scheduler产生的值相乘作为当前学习率。
  • warmup_ratio 表示学习率逐渐升高到基础学习率(即上面配置的learning_rate)所需要的迭代数占总步数的比例,最早的使用可以参考这篇论文
  • do_train 表示是否训练。
  • do_eval 表示是否评测。
  • device 表示使用的设备,从gpu和cpu中选择。

可通过bash run_clm.sh启动训练,更多参数详情和参数的默认值请参考run_clm.py

程序运行时将会自动进行训练和验证,训练过程中会自动保存模型在指定的save_dir中。 如:

./output/
│── model_config.json
│── model_state.pdparams
│── tokenizer_config.json
│── special_tokens_map.json
│── added_tokens.json
│── vocab.json
│── merges.txt
└── ...

NOTE: 如需恢复模型训练,model_name_or_path配置本地模型的目录地址即可。

项目地址

https://github.com/PaddlePaddle/PaddleNLP/tree/develop/examples/code_generation/codegen#简介

请在下方留下您的评论.加入TG吹水群