代码之家 › 专栏 › 技术社区 › Charlie Martin

查找spark scala包

apache-spark scala

Charlie Martin · 技术社区 · 7 年前

我相信这比看起来要简单,但我愿意装傻。

我正在研究一些Scala/Spark示例,偶尔需要添加库依赖项,例如,

libraryDependencies ++= Seq(
  scalaTest % Test,
  "org.apache.spark" %% "spark-core" % "2.2.0" % "provided",
  "org.apache.spark" %% "spark-mllib" % "2.2.0"
)

问题是,您如何为这些库找到合适的名称和版本?似乎所有的文本都给出了导入语句;必须有某种注册表之类的东西。但是在哪里?

1 回复 | 直到 7 年前

Indrajit Swain 7 年前

正确的 version 属于 library mvnrepository .如果您试图访问从…起 proprietary Distribution repository Distribution .

Cloudera repository

MapR repository

hdp_maven_artifacts

推荐文章

Geoffrey · Pyspark:将数据帧保存到多个具有单个文件特定大小的镶木地板文件中

1 年前

Bruno Peixoto · Spark群集CI管道构建失败

1 年前

codebot · 将df从pandas转换为PySpark时会删除列名

1 年前

mcsilvio · 在foreach中组织联接的最佳方式是什么?

1 年前

Dhruv · 在sbt控制台上运行Spark

1 年前

Leonard · Pyspark:JSON到Pyspark数据帧

1 年前

billie class · 将列中的值重写为列表中的下一个值

2 年前

Calcutta · Google Colab中的Spark SQL在大数据上失败

2 年前

Doraemon · PySpark:使用不同值的字符串类型列创建聚合列

2 年前

OdiumPura · 使用JDBC(Sql server)查询tempview

2 年前