欧洲精细化预报数据格式转换软件
安装、使用手册
国家气象信息中通过国际数据交换获取到的欧洲精细化数值预报数据,由于数据量大的原因,对方将数据存储为二级压缩的GRIB混编数据格式。此方法较好的解决了数据传输中带宽的占用和传输数据量的问题,但同时给最终用户的使用带来一定的困难。经过二级压缩的GRIB数据目前无法通过NetCDF-JAVA等API进行直接的读取,需要将二级压缩格式转换为简单格式才能正常使用。“欧洲精细化预报格式转换软件”文件格式转换app主要是负责对欧洲精细化预报二级压缩格式进行转换处理的软件,本文档主要是描述该软件的具体安装、运行的具体步骤和数据接入的组织方式。
1 软件功能说明
“欧洲精细化预报格式转换软件”的功能:主要是对欧洲精细化预报的格式进行转换[转换后格式为:simple、grib嘉兴教育发布菜单栏在哪>大一程序设计基础总结、netcdf],转换后的格式用户可以方便的利用NetCDF-Java等API进行方便的使用。
“欧洲精细化预报格式转换软件”的特性:
(1)支持两种操作系统环境Linux和Window(需要安装武旭鹏vba入门教程Cygwin软件)。两种操作系统下都需要使用到NetCDF和Grib-api的具体函数,所以都需要安装相关的软件环境。
(2)支持系统自动调度和手工调度量种运行方式。在正常的业务环境中,欧洲精细化预报数据具有时间的连续性,数据格式的转换也应具备连续性处理的功能,所以利用系统自身的调度功能实现转换定时调度。但对于一些特殊的需求,可以通过人工干预,对特定目录下的欧洲精细化预报数据进行格式转换处理。
(3)多进程格式转换处理。每天的欧洲精细化预报数据量较大,而且格式转换是个比较慢的过程,为提高对数据的转换效率,则进行多进程处理的方法,提高数据格式转换的整体效率。
“欧洲精细化预报数据格式转换”软件的具体运行环境安装、资料接入和运行维护的具体方法,请参考附件。
2 安装步骤
第一步 安装Cygwin软件,下载与安装方法见附录1。(仅Window平台需要执行此步骤)
第二步 安装NetCDF软件,下载与安装方法见附录:2。
第三步 安装GRIB API软件,下载与安装方法见附录3。
第四步 欧洲精细化预报数据格式转换软件部署与配置,方法见附录4。
3 使用说明
本软件提供了系统调度和手工调度两种方式,实现数据的格式转换,使用方法说明如下。
3.1 系统调度
操作系统负责对软件进行定时调度控制,软件运行后会自动在系统的Crontab中添加定时调度任务列表。
3.1.1 Cygwin环境
转为Simple数据格式
将二级压缩的欧洲数值预报解压为简单压缩格式。
>./start_cygwin.sh simple
转为grib数据格式
将二级压缩的欧洲数值预报解压为grib文件。
>./ start_cygwin.sh grib
转为netcdf数据格式
将二级压缩的欧洲数值预报解压为netcdf格式文件。
>./ start_cygwin.sh netcdf
3.1.2 Linux环境
转为Simple数据格式
将二级压缩的欧洲数值预报解压为简单压缩格式。
>./start_linux.sh simple
转为grib数据格式
将二级压缩的欧洲数值预报解压为grib文件。
>./ start_linux.sh grib
转为netcdf数据格式
将二级压缩的欧洲数值预报解压为netcdf格式文件。
>./ start_linux.sh netcdf
3.2 手工调度
在自动调度出现故障时对某天的数据没有进行格式转换,或者需要对原始资料转换为其他格式,或者需要对其他目录中的数据进行格式转换时,利用手工调度的方式,可以达到用户的数据格式转换目的,具体使用方式如下具体描述。
3.2.1 Cygwin环境
转为Simple数据格式
将二级压缩的欧洲数值预报解压为简单压缩格式。
>./ecmwf_df_convert_cygwin.sh simple 资料目录 输出目录 原始资料备份目录
转为grib数据格式
将二级压缩的欧洲数值预报解压为grib文件。
>./ecmwf_df_convert_cygwin.sh grib 资料目录 输出目录 原始资料备份目录
转为netcdf数据格式
将二级压缩的欧洲数值预报解压为netcdf格式文件。
>./ecmwf_df_convert_cygwin.sh netcdf 资料目录 输出目录 原始资料备份目录
3.2.2 Linux环境
转为Simple数据格式
将二级压缩的欧洲数值预报解压为简单压缩格式。
>./ecmwf_df_convert_linux.sh simple 资料目录 输出目录 原始资料备份目录
转为grib数据格式boolean值
将二级压缩的欧洲数值预报解压为grib文件。
>./ecmwf_df_convert_linux.sh grib 资料目录 输出目录 原始资料备份目录
转为netcdf数据格式
将二级压缩的欧洲数值预报解压为netcdf格式文件。
>./ecmwf_df_convert_linux.sh netcdf 资料目录 输出目录 原始资料备份目录
附录1:Cygwin下载与安装方法。
(1)下载
网址: win/
文件: (32位操作系统)或(64位操作系统)
(2)安装
双击执行文件
启动安装界面
设定安装源,默认选定Install from Internet。
设定Cygwin的安装根目录
设定Cygwin的下载的相关安装包本地存储目录
设定下载安装包的连接远程服务器的方法
设定下载安装包的远程服务器
设定需要安装的包
本软件的正常使用需要用到gcc环境和其他工具应用软件的支持,所以在此需要选定gcc、zip、cron的安装包,同时用户可根据自己其他需求,选定其他的安装包。
开始安装
安装完毕
(3)运行
点击桌面上生成的快捷图标,运行cygwin 终端软件,如下图:
附录2:NetCDF安装方法
(1)下载
网址: www.unidata.ucar.edu/downloads/netcdf/current/index.jsp
文件:netcdf-4.3.
下载后存放目录:/tmp
(2)安装
(1)解压缩:
> gunzip netcdf-4.3. > tar xf netcdf-4.3.0.tar |
(2)创建netcdf安装目录
> mkdir /usr/local/netcdf |
html设置textarea内容为空 |
(3)安装选项配置
> cd netcdf-4.3.0 > ./configure --prefix=/usr/local/netcdf/ --disable-netcdf-4s |
(4)make
> make ... |
(5)make check
> make check ... |
(6)install
> make install ... |
附录3:GRIB API安装方法
(1)下载
网址:wf.int/wiki/display/GRIB/Releases
文件: grib_api-1.12.
下载后存放目录:/tmp
(2)安装
(1)解压缩:
> gunzip grib_api-1.12. > tar xf grib_api-1.12.3.tar |
(2)创建api安装目录
> mkdir /usr/local/grib_api_dir |
(3)api安装选项配置
> cd grib_api-X > ./configure --prefix=/usr/local/grib_api_dir --with-netcdf=/usr/local/netcdf --disable-jpeg |
(4)make
> make ... |
(5)make check
> make check ... |
(6)install
> make install ... |
附录4 转换软件部署与配置方法
(1)环境变量
设置GRIB API软件安装目录环境变量GRIB_API_HOME,
打开/etc/profile文件,在文件最尾部添加如下代码:
export GRIB_API_HOME=/usr/local/grib_api_dir
设置资料处理根目录环境变量ecmwf_base
打开/etc/profile文件,在文件最尾部添加如下代码:
export ecmwf_base=/usr/local/ecmwf
设置格式转换软件安装路径
打开/etc/profile文件,在文件最尾部添加如下代码:
export ecmwf_home=/usr/local/ecmwf_df_convert_v1.0
备注:保存/etc/profile文件之后,执行source /etc/profile,配置立即生效。
(2)数据环境
原始资料的接入需要满足两个条件:
(1)按资料接入的系统日期存放数据:原始资料的接入,需要按照系统运行的年月日格式进行存放;
(2)保证文件完整性:原始资料的接入,必须以.tmp为文件后缀,待文件传输完毕后,再修改为正常的文件名。对于.tmp结尾的文件,本软件不进行处理。
欧洲数值预报格式转化软件,定时(默认:10分钟)对资料的接入目录数据进行指定格式的转换,转换后的资料同样按照一定目录结构进行存储。具体的目录如下描述:
原始资料接入目录:
$ecmwf_base/data/YYYYMMDD
资料输出目录:
$ecmwf_base/simple/YYYYMMDD,存放转为简单格式的欧洲数值预报资料。
$ecmwf_base/grib/YYYYMMDD,存储转为grib单个文件的欧洲数值预报资料。
$ecmwf_base/netcdf/YYYYMMDD,存储转为NetCDF格式的欧洲数值预报资料。
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论