首页
/ Harness:弹性可扩展的机器学习服务器

Harness:弹性可扩展的机器学习服务器

2024-05-23 22:34:19作者:晏闻田Solitary
harness
Harness is a Machine Learning/AI Server with plugins for many algorithms including the Universal Recommender

Harness是一款基于微服务架构的机器学习服务器,它提供了一个插件引擎API,并实现了所有输入和查询所需的服务。这个平台也支持通用推荐器,一个Harness引擎。

1、项目介绍

Harness通过其单一REST API和命令行界面(CLI),提供了简单易用的管理方式和SDK,可用于事件输入和查询操作。它支持Apache Spark,并且是计算引擎中立的,可以配合任何与JVM兼容的计算引擎,例如Spark、TensorFlow、Vowpal Wabbit等。

2、项目技术分析

架构设计

  • 微服务架构:最佳实践服务,实现可扩展、高性能的操作,将内部系统尽可能包装为轻量级微服务。
  • 单一REST API:命令行接口简化了管理,SDK支持输入和查询,所有功能都可通过完整的REST API访问。
  • Apache Spark集成:支持Spark,方便创建使用MLlib算法的引擎。
  • 计算引擎中立:不依赖特定计算引擎或预打包算法库,但支持Spark和 Harness Toolbox。

运行特性

  • 可扩展性:通过无限扩展的计算引擎如Spark和数据库如MongoDB处理大型数据集。
  • 实时输入验证:引擎提供实时输入验证。
  • 客户端支持:Java SDK用于事件和查询REST端点,Python SDK提供所有端点的客户端侧支持并用于Python CLI。
  • 命令行接口:以REST API调用的形式实现,安全远程可用。

3、应用场景

  • 在线推荐服务: Harness的通用推荐器引擎适用于电商、新闻聚合等实时个性化推荐场景。
  • 数据处理:通过Spark的支持,可在后台进行大规模数据预处理和模型构建。
  • 企业级应用:通过多租户权限管理,为SaaS系统提供安全、灵活的机器学习服务。

4、项目特点

  • 灵活的学习模式:支持在线(Kappa)和批量(Lambda)学习以及两者混合。
  • 数据流兼容性:与Apache PredictionIO的数据集兼容,易于迁移升级。
  • 高安全性:支持服务器之间使用的bearer令牌认证,授权控制以实现多租户安全隔离。
  • 容器化部署:可使用Docker和Docker-compose进行快速安装,也可支持Kubernetes集群部署。

入门准备

Harness的最小配置只需基础的Docker和Docker-compose环境,或者在无容器环境中安装Python、Pip、MongoDB和相关服务。对于源代码构建,还需要Python 3、Pip 3、MongoDB 3.x和一些现代*nix操作系统。

Harness的核心是一个快速轻量级服务器,它提供两个灵活的API,并管理引擎实例。无论单独使用还是组合使用,都能满足不同需求。

现在,就加入 Harness 的行列,利用它的强大功能,搭建自己的机器学习服务吧!

harness
Harness is a Machine Learning/AI Server with plugins for many algorithms including the Universal Recommender
热门项目推荐
相关项目推荐

项目优选

收起
CangjieCommunity
为仓颉编程语言开发者打造活跃、开放、高质量的社区环境
Markdown
671
0
RuoYi-Vue
🎉 基于SpringBoot,Spring Security,JWT,Vue & Element 的前后端分离权限管理系统,同时提供了 Vue3 的版本
Java
136
18
openHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
12
8
redis-sdk
仓颉语言实现的Redis客户端SDK。已适配仓颉0.53.4 Beta版本。接口设计兼容jedis接口语义,支持RESP2和RESP3协议,支持发布订阅模式,支持哨兵模式和集群模式。
Cangjie
322
26
advanced-java
Advanced-Java是一个Java进阶教程,适合用于学习Java高级特性和编程技巧。特点:内容深入、实例丰富、适合进阶学习。
JavaScript
75.83 K
19.04 K
qwerty-learner
为键盘工作者设计的单词记忆与英语肌肉记忆锻炼软件 / Words learning and English muscle memory training software designed for keyboard workers
TSX
15.56 K
1.44 K
Jpom
🚀简而轻的低侵入式在线构建、自动部署、日常运维、项目监控软件
Java
1.41 K
292
Yi-Coder
Yi Coder 编程模型,小而强大的编程助手
HTML
30
5
easy-es
Elasticsearch 国内Top1 elasticsearch搜索引擎框架es ORM框架,索引全自动智能托管,如丝般顺滑,与Mybatis-plus一致的API,屏蔽语言差异,开发者只需要会MySQL语法即可完成对Es的相关操作,零额外学习成本.底层采用RestHighLevelClient,兼具低码,易用,易拓展等特性,支持es独有的高亮,权重,分词,Geo,嵌套,父子类型等功能...
Java
1.42 K
231
taro
开放式跨端跨框架解决方案,支持使用 React/Vue/Nerv 等框架来开发微信/京东/百度/支付宝/字节跳动/ QQ 小程序/H5/React Native 等应用。 https://taro.zone/
TypeScript
35.34 K
4.77 K