百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

IntelliJ IDEA:Scala、sbt、maven配置教程

liuian 2025-04-07 15:53 14 浏览

IDEA相信是很多小伙伴经常使用的一个代码编写工具,其功能十分强大。

Spark是一个大数据计算组件,它与Hadoop最大的区别就是将数据放在内存,实现极高的计算效率。Spark是由Scala语言编写,所以,学习Spark之前,先掌握Scala是由必要的。

那这篇文章,就先讲解一下Scala如何在IDEA中进行配置使用。

IDEA配置scala插件

进入File——Settings——Plugins,在搜索框搜索scala,然后点击安装,等安装完毕,需要重启IDEA。

或者也可以手动安装,先去IDEA官网,选择Tools,接着可以看到PLUGIN MARKETPLACE里面的Scala,或者跳转到All Plugins页面。

下载你IDEA版本对应的scala插件。接着,还是上面同个地方,点击Install Plugin from Disk...,然后选择你刚才下载的zip文件。

需要注意,这里安装的只是IDEA的scala插件 接着,我们新建一个scala项目,File——New——Scala——IDEA,然后这里,如果你没有安装scala的话,需要点击Creat....——Download....

安装Scala

其实通过上一步直接下载scala的话就可以了。

如果你想要自己安装scala的话也很容易,直接百度Scala进入官网,找到scala-2.13.0.msi(这是windows系统的),然后像其他程序一样安装就可以了。最后你可以把安装后的路径加到环境变量。这样你也可以在scala shell中编写代码。

IDEA配置maven

IDEA是自带maven的,选择菜单栏File——Other Settings——Settings for New Projects,然后搜索maven,接着选择User settings file,这是你maven配置信息文件的路径,如果你想修改的话,记得要点击Override。Local repository选项的话,是你依赖包下载的位置。

比较关键的配置,其实就是依赖包下载的源,这里是得在settings.xml进行修改, 默认路径下,是没有这个文件,我们可以自己创建,然后加入以下内容:


``
      
          
            alimaven  
            aliyun maven  
            http://maven.aliyun.com/nexus/content/groups/public/  
            central          
          
      

我这里是换成了阿里云的源,默认的源是国外,下载依赖包速度会比较慢,如果在公司的话,一般需要改成你们公司的仓库地址。

添加Maven依赖

如果你创建的maven工程,那么你项目中会有这么一个pom.xml,这个文件就是来管理你的版本和依赖包的。maven添加依赖包的格式一般是如下:


    ai.h2o
    sparkling-water-core_2.10
    1.3.10

sbt安装

除了可以通过maven工程对项目的依赖、编译、打包等进行管理以外,scala还可以通过sbt来管理。 首先,第一步仍然需要上面scala一样安装sbt插件,跟上面的方法一样,直接搜索自动安装或者手动安装都可以。

然后,当然是需要安装sbt。

百度Sbt进入官网,下载安装。

接着,进入安装目录E:\Program Files (x86)\sbt\conf,配置sbtconfig.txt,写入以下内容:

# Set the java args to high

-Xmx512M

-XX:MaxPermSize=256m

-XX:ReservedCodeCacheSize=128m

# Set the extra SBT options

-Dsbt.log.format=true
-Dsbt.override.build.repos=true 
-Dsbt.ivy.home=E:\sbt\.ivy2
-Dsbt.global.base=E:\sbt\.sbt
-Dsbt.repository.config=E:\sbt\conf\repo.properties

说明一下参数的意义:Dsbt.ivy.home是你依赖包下载到本地的位置,``Dsbt.repository.config是你sbt配置文件的位置(包括你依赖包仓库的源url等) 这里要特别注意一下:路径名称不要带有空格,因为这些配置参数是需要加到VM parameters的,出现空格会识别错误!!!

IDEA配置sbt

进入IDEA,还是跟maven一样的步骤,搜索sbt,在VM parameters中填入跟上一步配置文件一样的参数;在下面选择Custom,然后选择你安装目录bin下的sbt-launch.jar。 这样你的sbt就配置完成,你可以在新建scala项目的选择sbt来进行管理了。

修改sbt的仓库源

上面已经提到了,在配置sbtconfig.txt的时候,就已经设定了你sbt配置文件的路径,如上面我的路径是E:\sbt\conf\repo.properties,但默认情况下,你是没有这个文件的,你需要自己创建这个文件,然后填入以下内容:

[repositories]
local
aliyun: http://maven.aliyun.com/nexus/content/groups/public/
typesafe: http://repo.typesafe.com/typesafe/ivy-releases/, [organization]/[module]/(scala_[scalaVersion]/)(sbt_[sbtVersion]/)[revision]/[type]s/[artifact](-[classifier]).[ext], bootOnly
sonatype-oss-releases
maven-central
sonatype-oss-snapshots

我这里是换成了阿里云的源,默认的源是国外,下载依赖包速度会比较慢,如果在公司的话,一般需要改成你们公司的仓库地址。

Sbt添加依赖

sbt项目管理依赖的文件是build.sbt,添加依赖的格式如下:

libraryDependencies += "org.apache.spark" % "spark-core_2.11" % "2.0.2"

上面是指添加单独一个依赖的写法,如果是多个的话是这样的:

libraryDependencies ++= Seq(
  groupID % artifactID % revision,
  groupID % otherID % otherRevision
)




相关推荐

GANs为何引爆机器学习?这篇基于TensorFlow的实例教程为你解惑!

「机器人圈导览」:生成对抗网络无疑是机器学习领域近三年来最火爆的研究领域,相关论文层出不求,各种领域的应用层出不穷。那么,GAN到底如何实践?本文编译自Medium,该文作者以一朵玫瑰花为例,详细阐...

高丽大学等机构联合发布StarGAN:可自定义表情和面部特征

原文来源:arXiv、GitHub作者:YunjeyChoi、MinjeChoi、MunyoungKim、Jung-WooHa、SungKim、JaegulChoo「雷克世界」编译:嗯~...

TensorFlow和PyTorch相继发布最新版,有何变化

原文来源:GitHub「机器人圈」编译:嗯~阿童木呀、多啦A亮Tensorflow主要特征和改进在Tensorflow库中添加封装评估量。所添加的评估量列表如下:1.深度神经网络分类器(DNNCl...

「2022 年」崔庆才 Python3 爬虫教程 - 深度学习识别滑动验证码缺口

上一节我们使用OpenCV识别了图形验证码躯壳欧。这时候就有朋友可能会说了,现在深度学习不是对图像识别很准吗?那深度学习可以用在识别滑动验证码缺口位置吗?当然也是可以的,本节我们就来了解下使用深度...

20K star!搞定 LLM 微调的开源利器

LLM(大语言模型)微调一直都是老大难问题,不仅因为微调需要大量的计算资源,而且微调的方法也很多,要去尝试每种方法的效果,需要安装大量的第三方库和依赖,甚至要接入一些框架,可能在还没开始微调就已经因为...

大模型DeepSeek本地部署后如何进行自定义调整?

1.理解模型架构a)查看深度求索官方文档或提供的源代码文件,了解模型的结构、输入输出格式以及支持的功能。模型是否为预训练权重?如果是,可以在预训练的基础上进行微调(Fine-tuning)。是否需要...

因配置不当,约5000个AI模型与数据集在公网暴露

除了可访问机器学习模型外,暴露的数据还可能包括训练数据集、超参数,甚至是用于构建模型的原始数据。前情回顾·人工智能安全动态向ChatGPT植入恶意“长期记忆”,持续窃取用户输入数据多模态大语言模型的致...

基于pytorch的深度学习人员重识别

基于pytorch的深度学习人员重识别Torchreid是一个库。基于pytorch的深度学习人员重识别。特点:支持多GPU训练支持图像的人员重识别与视频的人员重识别端到端的训练与评估简单的re...

DeepSeek本地部署:轻松训练你的AI模型

引言:为什么选择本地部署?在AI技术飞速发展的今天,越来越多的企业和个人希望将AI技术应用于实际场景中。然而,对于一些对数据隐私和计算资源有特殊需求的用户来说,云端部署可能并不是最佳选择。此时,本地部...

谷歌今天又开源了,这次是Sketch-RNN

前不久,谷歌公布了一项最新技术,可以教机器画画。今天,谷歌开源了代码。在我们研究其代码之前,首先先按要求设置Magenta环境。(https://github.com/tensorflow/magen...

Tensorflow 使用预训练模型训练的完整流程

前面已经介绍了深度学习框架Tensorflow的图像的标注和训练数据的准备工作,本文介绍一下使用预训练模型完成训练并导出训练的模型。1.选择预训练模型1.1下载预训练模型首先需要在Tensorf...

30天大模型调优学习计划(30分钟训练大模型)

30天大模型调优学习计划,结合Unsloth和Lora进行大模型微调,掌握大模型基础知识和调优方法,熟练应用。第1周:基础入门目标:了解大模型基础并熟悉Unsloth等工具的基本使用。Day1:大模...

python爬取喜马拉雅音频,json参数解析

一.抓包分析json,获取加密方式1.抓包获取音频界面f12打开抓包工具,播放一个(非vip)视频,点击“媒体”单击打开可以复制URL,发现就是我们要的音频。复制“CKwRIJEEXn-cABa0Tg...

五、JSONPath使用(Python)(json数据python)

1.安装方法pipinstalljsonpath2.jsonpath与Xpath下面表格是jsonpath语法与Xpath的完整概述和比较。Xpathjsonpath概述/$根节点.@当前节点...

Python网络爬虫的时候json=就是让你少写个json.dumps()

大家好,我是皮皮。一、前言前几天在Python白银交流群【空翼】问了一个Python网络爬虫的问题,提问截图如下:登录请求地址是这个:二、实现过程这里【甯同学】给了一个提示,如下所示:估计很多小伙伴和...