大模型加速与性能对比

大模型加速与性能对比阿里通义千问flash-attention加速正常运行通义千问会提示安装flash-attention以获得更快的推理速度，缺少这个包并不影响模型运行。事实证明安装之后对于推理速度的提升也很小（5%），网上说对于微调训练的速度提升比较大，因为是在内网环境下，安装还费了一番周折。本

Docker安装达梦数据库8

Docker安装达梦数据库8软件版本数据库镜像，dm8_single:dm8_20230808_rev197096_x86_rh6_64，官网下载最新版，地址Docker版本，Docker version 24.0.6, build ed223bc操作系统，Ubuntu 20.04导入镜像docke

DCU服务器Docker开发环境

DCU服务器使用说明基本信息海光CPUcat /proc/cpuinfoprocessor: 127vendor_id: HygonGenuinecpu family: 24model: 2model name: Hygon C86 7381 32-core Processorstepping: 2

二进制安装docker并设置为服务

二进制安装docker并设置为服务使用麒麟操作系统，默认的Docker为18.0.9版本，本想通过Docker官方添加yum源的方式安装新版的docker，但是操作系统依赖不满足，各种包都被改名ky10，所以考虑二进制直接安装。Docker二进制包下载地址，本人下载的24.0.5版本安装Docker