如何在Linux内核里增加一个系统调用？

一、Linux0.11下添加系统调用：\x0d\x0a\x0d\x0a我在bochs2.2.1中对linux0.11内核添加了一个新的系统调用，步骤如下： \x0d\x0a1./usr/src/linux/include/unistd.h中添加：#define __NR_mytest 87 \x0d\x0a然后在下面声明函数原型：int mytest()\x0d\x0a2./usr/src/linux/include/linux/sys.h中添加:extern int sys_mytest()\x0d\x0a然后在sys_call_table中最后加上sys_mytest； \x0d\x0a3.在/usr/src/linux/kernel/sys.c中添加函数实现如下： \x0d\x0aint sys_mytest(){ \x0d\x0aprintk("This is a test!")\x0d\x0areturn 123\x0d\x0a} \x0d\x0a4.在/usr/src/linux/kernel/system_call.s中对系统调用号加1（原来是86改成了87） \x0d\x0a5.然后到/usr/src/linux目录下编译内核make cleanmake Image \x0d\x0a6. cp /usr/src/linux/include/unistd.h /usr/include/unistd.h \x0d\x0a7. reset bochs \x0d\x0a8. 在/usr/root中生成test.c文件如下： \x0d\x0a#define __LIBRARY__ \x0d\x0a#include \x0d\x0a_syscall0(int,mytest) \x0d\x0aint main(){ \x0d\x0aint a\x0d\x0aa = mytest()\x0d\x0aprintf("%d", a)\x0d\x0areturn 0\x0d\x0a} \x0d\x0a9.然后gcc test.c编译之后运行a.out，前面所有步骤都通过，但是每次调用都是返回-1，然后我查过errno为1（表示 *** 作不允许），就不知道为什么了？ \x0d\x0a系统知道的高手们能够告知一下，不胜感激！这个问题困扰我很久了！ \x0d\x0a\x0d\x0a二、新Linux内核添加系统调用\x0d\x0a\x0d\x0a如何在Linux系统中添加新的系统调用\x0d\x0a系统调用是应用程序和 *** 作系统内核之间的功能接口。其主要目的是使得用户可以使用 *** 作系统提供的有关设备管理、输入/输入系统、文件系统和进程控制、通信以及存储管理等方面的功能，而不必了解系统程序的内部结构和有关硬件细节，从而起到减轻用户负担和保护系统以及提高资源利用率的作用。\x0d\x0a\x0d\x0aLinux *** 作系统作为自由软件的代表，它优良的性能使得它的应用日益广泛，不仅得到专业人士的肯定，而且商业化的应用也是如火如荼。在Linux中，大部分的系统调用包含在Linux的libc库中，通过标准的C函数调用方法可以调用这些系统调用。那么，对Linux的发烧友来说，如何在Linux中增加新的系统调用呢？ \x0d\x0a1 Linux系统调用机制\x0d\x0a\x0d\x0a在Linux系统中，系统调用是作为一种异常类型实现的。它将执行相应的机器代码指令来产生异常信号。产生中断或异常的重要效果是系统自动将用户态切换为核心态来对它进行处理。这就是说，执行系统调用异常指令时，自动地将系统切换为核心态，并安排异常处理程序的执行。Linux用来实现系统调用异常的实际指令是：\x0d\x0a\x0d\x0aInt $0x80\x0d\x0a\x0d\x0a这一指令使用中断/异常向量号128（即16进制的80）将控制权转移给内核。为达到在使用系统调用时不必用机器指令编程，在标准的C语言库中为每一系统调用提供了一段短的子程序，完成机器代码的编程工作。事实上，机器代码段非常简短。它所要做的工作只是将送给系统调用的参数加载到CPU寄存器中，接着执行int $0x80指令。然后运行系统调用，系统调用的返回值将送入CPU的一个寄存器中，标准的库子程序取得这一返回值，并将它送回用户程序。\x0d\x0a\x0d\x0a为使系统调用的执行成为一项简单的任务，Linux提供了一组预处理宏指令。它们可以用在程序中。这些宏指令取一定的参数，然后扩展为调用指定的系统调用的函数。\x0d\x0a\x0d\x0a这些宏指令具有类似下面的名称格式：\x0d\x0a\x0d\x0a_syscallN（parameters）\x0d\x0a\x0d\x0a其中N是系统调用所需的参数数目，而parameters则用一组参数代替。这些参数使宏指令完成适合于特定的系统调用的扩展。例如，为了建立调用setuid（）系统调用的函数，应该使用：\x0d\x0a\x0d\x0a_syscall1（ int， setuid， uid_t， uid ）\x0d\x0a\x0d\x0asyscallN（ ）宏指令的第1个参数int说明产生的函数的返回值的类型是整型，第2个参数setuid说明产生的函数的名称。后面是系统调用所需要的每个参数。这一宏指令后面还有两个参数uid_t和uid分别用来指定参数的类型和名称。\x0d\x0a\x0d\x0a另外，用作系统调用的参数的数据类型有一个限制，它们的容量不能超过四个字节。这是因为执行int $0x80指令进行系统调用时，所有的参数值都存在32位的CPU寄存器中。使用CPU寄存器传递参数带来的另一个限制是可以传送给系统调用的参数的数目。这个限制是最多可以传递5个参数。所以Linux一共定义了6个不同的_syscallN（）宏指令，从_syscall0（）、_syscall1（）直到_syscall5（）。\x0d\x0a\x0d\x0a一旦_syscallN（）宏指令用特定系统调用的相应参数进行了扩展，得到的结果是一个与系统调用同名的函数，它可以在用户程序中执行这一系统调用。\x0d\x0a2 添加新的系统调用 \x0d\x0a如果用户在Linux中添加新的系统调用，应该遵循几个步骤才能添加成功，下面几个步骤详细说明了添加系统调用的相关内容。\x0d\x0a\x0d\x0a（1） 添加源代码\x0d\x0a\x0d\x0a第一个任务是编写加到内核中的源程序，即将要加到一个内核文件中去的一个函数，该函数的名称应该是新的系统调用名称前面加上sys_标志。假设新加的系统调用为mycall(int number)，在/usr/src/linux/kernel/sys.c文件中添加源代码，如下所示：\x0d\x0aasmlinkage int sys_mycall(int number) \x0d\x0a{ \x0d\x0areturn number\x0d\x0a}\x0d\x0a作为一个最简单的例子，我们新加的系统调用仅仅返回一个整型值。\x0d\x0a\x0d\x0a（2） 连接新的系统调用\x0d\x0a\x0d\x0a添加新的系统调用后，下一个任务是使Linux内核的其余部分知道该程序的存在。为了从已有的内核程序中增加到新的函数的连接，需要编辑两个文件。\x0d\x0a\x0d\x0a在我们所用的Linux内核版本（RedHat 6.0，内核为2.2.5-15）中，第一个要修改的文件是：\x0d\x0a\x0d\x0a/usr/src/linux/include/asm-i386/unistd.h\x0d\x0a\x0d\x0a该文件中包含了系统调用清单，用来给每个系统调用分配一个唯一的号码。文件中每一行的格式如下：\x0d\x0a\x0d\x0a#define __NR_name NNN\x0d\x0a\x0d\x0a其中，name用系统调用名称代替，而NNN则是该系统调用对应的号码。应该将新的系统调用名称加到清单的最后，并给它分配号码序列中下一个可用的系统调用号。我们的系统调用如下：\x0d\x0a\x0d\x0a#define __NR_mycall 191\x0d\x0a\x0d\x0a系统调用号为191，之所以系统调用号是191，是因为Linux-2.2内核自身的系统调用号码已经用到190。\x0d\x0a\x0d\x0a第二个要修改的文件是：\x0d\x0a\x0d\x0a/usr/src/linux/arch/i386/kernel/entry.S\x0d\x0a\x0d\x0a该文件中有类似如下的清单：\x0d\x0a.long SYMBOL_NAME（）\x0d\x0a\x0d\x0a该清单用来对sys_call_table[]数组进行初始化。该数组包含指向内核中每个系统调用的指针。这样就在数组中增加了新的内核函数的指针。我们在清单最后添加一行：\x0d\x0a.long SYMBOL_NAME(sys_mycall)\x0d\x0a\x0d\x0a（3） 重建新的Linux内核\x0d\x0a\x0d\x0a为使新的系统调用生效，需要重建Linux的内核。这需要以超级用户身份登录。\x0d\x0a#pwd \x0d\x0a/usr/src/linux \x0d\x0a#\x0d\x0a\x0d\x0a超级用户在当前工作目录（/usr/src/linux）下，才可以重建内核。\x0d\x0a\x0d\x0a#make config \x0d\x0a#make dep \x0d\x0a#make clearn \x0d\x0a#make bzImage\x0d\x0a\x0d\x0a编译完毕后，系统生成一可用于安装的、压缩的内核映象文件：\x0d\x0a\x0d\x0a/usr/src/linux/arch/i386/boot/bzImage \x0d\x0a（4） 用新的内核启动系统 \x0d\x0a要使用新的系统调用，需要用重建的新内核重新引导系统。为此，需要修改/etc/lilo.conf文件，在我们的系统中，该文件内容如下：\x0d\x0a\x0d\x0aboot=/dev/hda \x0d\x0amap=/boot/map \x0d\x0ainstall=/boot/boot.b \x0d\x0aprompt \x0d\x0atimeout=50 \x0d\x0a\x0d\x0aimage=/boot/vmlinuz-2.2.5-15 \x0d\x0alabel=linux \x0d\x0aroot=/dev/hdb1 \x0d\x0a　 read-only \x0d\x0a\x0d\x0aother=/dev/hda1 \x0d\x0alabel=dos \x0d\x0atable=/dev/had\x0d\x0a\x0d\x0a首先编辑该文件，添加新的引导内核：\x0d\x0aimage=/boot/bzImage-new \x0d\x0alabel=linux-new \x0d\x0aroot=/dev/hdb1 \x0d\x0aread-only\x0d\x0a\x0d\x0a添加完毕，该文件内容如下所示：\x0d\x0aboot=/dev/hda \x0d\x0amap=/boot/map \x0d\x0ainstall=/boot/boot.b \x0d\x0aprompt \x0d\x0atimeout=50 \x0d\x0a\x0d\x0aimage=/boot/bzImage-new \x0d\x0alabel=linux-new \x0d\x0aroot=/dev/hdb1 \x0d\x0aread-only \x0d\x0a\x0d\x0aimage=/boot/vmlinuz-2.2.5-15 \x0d\x0alabel=linux \x0d\x0aroot=/dev/hdb1 \x0d\x0aread-only \x0d\x0a\x0d\x0aother=/dev/hda1 \x0d\x0alabel=dos \x0d\x0atable=/dev/hda\x0d\x0a\x0d\x0a这样，新的内核映象bzImage-new成为缺省的引导内核。为了使用新的lilo.conf配置文件，还应执行下面的命令：\x0d\x0a#cp /usr/src/linux/arch/i386/boot/zImage /boot/bzImage-new\x0d\x0a\x0d\x0a其次配置lilo:\x0d\x0a\x0d\x0a# /sbin/lilo\x0d\x0a\x0d\x0a现在，当重新引导系统时，在boot:提示符后面有三种选择：linux-new 、linux、dos，新内核成为缺省的引导内核。\x0d\x0a至此，新的Linux内核已经建立，新添加的系统调用已成为 *** 作系统的一部分，重新启动Linux，用户就可以在应用程序中使用该系统调用了。\x0d\x0a\x0d\x0a（5）使用新的系统调用\x0d\x0a\x0d\x0a在应用程序中使用新添加的系统调用mycall。同样为实验目的，我们写了一个简单的例子xtdy.c。\x0d\x0a\x0d\x0a/* xtdy.c */ \x0d\x0a#include \x0d\x0a_syscall1(int,mycall,int,ret) \x0d\x0amain() \x0d\x0a{ \x0d\x0aprintf("%d \n",mycall(100))\x0d\x0a}\x0d\x0a编译该程序：\x0d\x0a# cc -o xtdy xtdy.c\x0d\x0a执行：\x0d\x0a# xtdy\x0d\x0a结果：\x0d\x0a# 100\x0d\x0a注意，由于使用了系统调用，编译和执行程序时，用户都应该是超级用户身份。

给个例子给你看看吧，这里是linux中一个C语言程序，他用到了linux提供的系统调用,很长的程序了，或许你没耐心看，我在最后给你列出那些地方用了系统调用

#include <stdio.h>

#include <stdlib.h>

#include <unistd.h>

#include <sys/types.h>

#include <sys/ipc.h>

#include <sys/msg.h>

#define BUFF_LEN 1024

#define RET_ERROR 1

#define RET_OK 0

typedef struct msg_send_struct { //这就是一个消息的数据结构

long my_type//我们就是根据这个字段来区分每块消息的

char my_text[BUFF_LEN]

} msg_send_struct

int main() {

char * path = "/"

int i_porject_id = 7

key_t key

msg_send_struct msg_send//定义发送消息

int i_ret

int i_msg_id

int i_flag = 0666|IPC_CREAT//为消息管道的创建指定参数，IPC_CREAT表示这个消息队列是创建，而不是搜索已经存在的消息队列

key = ftok(path, i_porject_id)//为消息队列生成一个key，当然你也可以手动指定，当你运气很好没有和已经窜在的消息队列的key起冲突的时候

if(key == 1) {

printf("building key error\n")

exit(1)

}

i_msg_id = msgget(key, i_flag)//根据你的参数决定是创建还是搜索KEY值得消息队列

if(i_msg_id == -1) {

printf("create msg queue error\n")

exit(1)

}

printf("i_msg_id = %d\n", i_msg_id)

msg_send.my_type = 1

strcpy(msg_send.my_text, "hello world")//初始化消息

i_ret = msgsnd(i_msg_id, &msg_send, strlen("hello world") + 1, IPC_NOWAIT)//开始发送，nowait表示如果队列中消息满了当前进程不等待直接返回错误，反之很容易理解吧

if(i_ret == -1) {

printf("msg send error\n")

exit(1)

}

exit(0)

}

下面是系统调用：

#include <sys/types.h>

#include <sys/ipc.h>

#include <sys/msg.h>这些头文件可不是库函数，他里面就是linux提供的系统调用。

key = ftok(path, i_porject_id)//为消息队列生成一个key，当然你也可以手动指定，当你运气很好没有和已经窜在的消息队列的key起冲突的时候

linux中系统调用，利用文件系统和ID来创建KEY。

i_msg_id = msgget(key, i_flag)//根据i_flag值决定是创建还是寻找消息队列的系统调用。

i_ret = msgsnd(i_msg_id, &msg_send, strlen("hello world") + 1, IPC_NOWAIT)//发送消息的系统调用msgsnd函数。

这里涉及到进程通信中的消息队列内容，如果不明白没什么关系，可以看出来他和C的库函数调用一模一样，只不过实现方式，这需要你的知识积累到一定程度，有很大差别。对于一个程序员来说，我们看不出什么他们和库函数有什么区别，这算是一种对我们的透明性。

补充：这个例子是我写来学习进程通信内容的，由于采用了linux系统调用，所以只能在linux下面运行，还有就是我没有考虑权限问题，所以要编译请用超级用户root，由于消息队列的特性，这个程序没有释放队列（我把释放代码写在了接受消息的程序中)，第2次运行就会报消息队列不能创建的错误。

---