InternStudio开发机介绍

InternStudio 是大模型时代下的云端算力平台。基于 InternLM 组织下的诸多算法库支持,为开发者提供开箱即用的大语言模型微调环境、工具、数据集,并完美兼容 🤗 HugginFace 开源生态。

【书生大模型实战营第四期】Linux+InternStudio 关卡插图

选择自己算力合适的开发机,等待创建完成后,点击进入开发机

【书生大模型实战营第四期】Linux+InternStudio 关卡插图1

可以看到开发机的主页面,开发机有三种模式可以选择:JupyterLab、终端和VScode

闯关任务

目标:完成SSH连接与端口映射并运行hello_world.py

通过SSH连接到开发机

点击SSH连接

【书生大模型实战营第四期】Linux+InternStudio 关卡插图2

复制登陆命令到powershell中(建议直接使用管理员打开)。
注意!密码默认不可视,即直接输入即可,不会反馈输入后的字符,也可单击右键自动复制。

【书生大模型实战营第四期】Linux+InternStudio 关卡插图3

配置SSH密钥进行SSH远程连接

我们开发学习的时候,每次远程都输入密码比较麻烦,我们可以设置SSH key来跳过输入密码这一步骤,在ssh命令中我们可以使用ssh-keygen命令来生成密钥

win+r输入cmd,输入ssh-keygen -t rsa
一路回车之后,会在电脑C盘用户文件夹中的当前登陆用户文件夹下生成.ssh文件夹(如C:\Users\16493/.ssh)找到后,使用记事本打开.pub文件即可。

【书生大模型实战营第四期】Linux+InternStudio 关卡插图4

在powerShell中可以使用Get-Content命令查看生成的密钥,如果是linux操作系统可以使用cat命令。
复制后点击添加公钥,添加即可

【书生大模型实战营第四期】Linux+InternStudio 关卡插图5

使用vscode连接

打开vscode,搜索ssh插件,安装Remote - SSH

【书生大模型实战营第四期】Linux+InternStudio 关卡插图6

此时即可复制登录命令,连接到目标SSH

【书生大模型实战营第四期】Linux+InternStudio 关卡插图7

等待vscode打开远程连接,等待自动配置完成后即可连接成功(前提条件为已经配置好ssh_key)。
进入到文件工作区,打开文件夹,/root/

【书生大模型实战营第四期】Linux+InternStudio 关卡插图8

进行端口映射

(使用 VSCode 等工具进行端口转发) 直接访问开发机内 http/https 服务可能会遇到代理问题,推荐在本地机器终端执行以下命令:

ssh -p 35386 root@ssh.intern-ai.org.cn -CNg -L {本地机器_PORT}:127.0.0.1:{开发机_PORT} -o StrictHostKeyChecking=no

进入到连接好开发机的vscode窗口中,点击转发端口即可。

【书生大模型实战营第四期】Linux+InternStudio 关卡插图9

此时连接不会有任何内容,在开发机创建hello_world.py文件,输入以下内容:

import socket
import re
import gradio as gr
 
# 获取主机名
def get_hostname():
    hostname = socket.gethostname()
    match = re.search(r'-(\d+)$', hostname)
    name = match.group(1)
    
    return name
 
# 创建 Gradio 界面
with gr.Blocks(gr.themes.Soft()) as demo:
    html_code = f"""
            <p align="center">
            <a href="https://intern-ai.org.cn/home">
                <img src="https://intern-ai.org.cn/assets/headerLogo-4ea34f23.svg" alt="Logo" width="20%" style="border-radius: 5px;">
            </a>
            </p>
            <h1 style="text-align: center;">☁️ Welcome {get_hostname()} user, welcome to the ShuSheng LLM Practical Camp Course!</h1>
            <h2 style="text-align: center;">😀 Let’s go on a journey through ShuSheng Island together.</h2>
            <p align="center">
                <a href="https://github.com/InternLM/Tutorial/blob/camp3">
                    <img src="https://oss.lingkongstudy.com.cn/blog/202410081252022.png" alt="Logo" width="50%" style="border-radius: 5px;">
                </a>
            </p>

            """
    gr.Markdown(html_code)

demo.launch()

在运行代码之前,需要先使用pip install gradio==4.29.0命令安装以下依赖包,然后在Web IDE的终端中运行了一个hello_world.py
vscode在终端依次运行pip install gradio==4.29.0python hello_world.py,注意,需要在大环境下安装python环境
安装gradio时,等待时间较长,需要枚举文件,耐心等待即可。

【书生大模型实战营第四期】Linux+InternStudio 关卡插图10
【书生大模型实战营第四期】Linux+InternStudio 关卡插图11

运行成功!

实战营信息

【书生大模型实战营第四期】Linux+InternStudio 关卡插图12