InternStudio开发机介绍
InternStudio 是大模型时代下的云端算力平台。基于 InternLM 组织下的诸多算法库支持,为开发者提供开箱即用的大语言模型微调环境、工具、数据集,并完美兼容 🤗 HugginFace 开源生态。
选择自己算力合适的开发机,等待创建完成后,点击进入开发机
可以看到开发机的主页面,开发机有三种模式可以选择:JupyterLab、终端和VScode
闯关任务
目标:完成SSH连接与端口映射并运行hello_world.py
通过SSH连接到开发机
点击SSH连接
复制登陆命令到powershell中(建议直接使用管理员打开)。
注意!密码默认不可视,即直接输入即可,不会反馈输入后的字符,也可单击右键自动复制。
配置SSH密钥进行SSH远程连接
我们开发学习的时候,每次远程都输入密码比较麻烦,我们可以设置SSH key来跳过输入密码这一步骤,在ssh命令中我们可以使用ssh-keygen命令来生成密钥
win+r
输入cmd,输入ssh-keygen -t rsa
一路回车之后,会在电脑C盘用户文件夹中的当前登陆用户文件夹下生成.ssh文件夹(如C:\Users\16493/.ssh)找到后,使用记事本打开.pub文件即可。
在powerShell中可以使用Get-Content命令查看生成的密钥,如果是linux操作系统可以使用cat命令。
复制后点击添加公钥,添加即可
使用vscode连接
打开vscode,搜索ssh插件,安装Remote - SSH
此时即可复制登录命令,连接到目标SSH
等待vscode打开远程连接,等待自动配置完成后即可连接成功(前提条件为已经配置好ssh_key)。
进入到文件工作区,打开文件夹,/root/
进行端口映射
(使用 VSCode 等工具进行端口转发) 直接访问开发机内 http/https 服务可能会遇到代理问题,推荐在本地机器终端执行以下命令:
ssh -p 35386 root@ssh.intern-ai.org.cn -CNg -L {本地机器_PORT}:127.0.0.1:{开发机_PORT} -o StrictHostKeyChecking=no
进入到连接好开发机的vscode窗口中,点击转发端口即可。
此时连接不会有任何内容,在开发机创建hello_world.py文件,输入以下内容:
import socket
import re
import gradio as gr
# 获取主机名
def get_hostname():
hostname = socket.gethostname()
match = re.search(r'-(\d+)$', hostname)
name = match.group(1)
return name
# 创建 Gradio 界面
with gr.Blocks(gr.themes.Soft()) as demo:
html_code = f"""
<p align="center">
<a href="https://intern-ai.org.cn/home">
<img src="https://intern-ai.org.cn/assets/headerLogo-4ea34f23.svg" alt="Logo" width="20%" style="border-radius: 5px;">
</a>
</p>
<h1 style="text-align: center;">☁️ Welcome {get_hostname()} user, welcome to the ShuSheng LLM Practical Camp Course!</h1>
<h2 style="text-align: center;">😀 Let’s go on a journey through ShuSheng Island together.</h2>
<p align="center">
<a href="https://github.com/InternLM/Tutorial/blob/camp3">
<img src="https://oss.lingkongstudy.com.cn/blog/202410081252022.png" alt="Logo" width="50%" style="border-radius: 5px;">
</a>
</p>
"""
gr.Markdown(html_code)
demo.launch()
在运行代码之前,需要先使用pip install gradio==4.29.0
命令安装以下依赖包,然后在Web IDE的终端中运行了一个hello_world.py
vscode在终端依次运行pip install gradio==4.29.0
和python hello_world.py
,注意,需要在大环境下安装python环境
安装gradio时,等待时间较长,需要枚举文件,耐心等待即可。
运行成功!
参与讨论