首页
/ Apache SystemDS 技术文档

Apache SystemDS 技术文档

2024-12-23 03:30:55作者:舒璇辛Bertina

1. 安装指南

安装环境要求

  • Java 11
  • Python 3.5+
  • Hadoop 3.3.x
  • Spark 3.5.x
  • Nvidia CUDA 10.2 (CuDNN 7.x)
  • Intel MKL (<=2019.x)

Windows安装步骤

  1. 设置Java和Maven环境,建议使用Java OpenJDK 11。
  2. 配置环境变量JAVA_HOME和MAVEN_HOME,并添加到path环境变量。
  3. 设置HADOOP_HOME环境变量,并添加%HADOOP_HOME%/bin到path。
  4. 若要从命令行运行SystemDS,设置SYSTEMDS_ROOT指向仓库根目录,并添加bin文件夹到path。
  5. 为提高构建速度,设置IDE或环境变量java的-Xmx16g -Xms16g -Xmn1600m。

Ubuntu安装步骤

  1. 从源代码构建,具体步骤请参考官方文档

MAC安装步骤

  1. 从源代码构建,具体步骤请参考官方文档

2. 项目的使用说明

Apache SystemDS是一个开放源代码的机器学习系统,适用于端到端的数据科学生命周期,包括数据集成、清洗、特征工程,高效的本地和分布式机器学习模型训练,以及部署和服务。SystemDS提供了类似R语言的语法,支持数据科学的不同任务和不同水平用户。

快速开始

  • 安装、快速入门和Hello World示例,请参考官方文档

3. 项目API使用文档

SystemDS提供了Python接口,使用户能够利用Pythonic风格操作SystemDS。该接口支持数据科学的整个生命周期,并将高级脚本编译为混合执行计划,包括本地内存CPU和GPU操作以及Apache Spark上的分布式操作。

Python API

4. 项目安装方式

从源代码安装

  1. 访问官方安装指南,获取从源代码构建SystemDS的详细步骤。

以上就是Apache SystemDS的技术文档,希望对您有所帮助。

登录后查看全文
热门项目推荐
相关项目推荐

项目优选

收起
kernelkernel
deepin linux kernel
C
24
7
nop-entropynop-entropy
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
9
1
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.03 K
479
Cangjie-ExamplesCangjie-Examples
本仓将收集和展示高质量的仓颉示例代码,欢迎大家投稿,让全世界看到您的妙趣设计,也让更多人通过您的编码理解和喜爱仓颉语言。
Cangjie
375
3.24 K
pytorchpytorch
Ascend Extension for PyTorch
Python
169
190
flutter_flutterflutter_flutter
暂无简介
Dart
615
140
leetcodeleetcode
🔥LeetCode solutions in any programming language | 多种编程语言实现 LeetCode、《剑指 Offer(第 2 版)》、《程序员面试金典(第 6 版)》题解
Java
62
19
cangjie_compilercangjie_compiler
仓颉编译器源码及 cjdb 调试工具。
C++
126
855
cangjie_testcangjie_test
仓颉编程语言测试用例。
Cangjie
36
852
ops-mathops-math
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
647
258