Почему вызов ioctl не передается в sys ioctl?

У меня есть модуль ядра (4.4.32 kernel), который реализует вызов ioctl, назначая его обработчик ioctl указателю struct file_operations S unlocked_ioctl. Все работает нормально, но мне дали программу (только двоичную), скомпилированную для ядра 2.6 или, возможно, 2.4, которая не делает ядро регистрирующим вызов ioctl для моего модуля, если я запускаю эту программу на моем 4.4.32.
Поскольку эта программа была скомпилирована на более старом ядре, она использует более старый интерфейс ioctl, то есть указатель ioctl в структуре file_operations, а не unlocked_ioctl.

Старая программа создает консоль для визуального взаимодействия с пользователем и должен запускаться от имени пользователя root из корневой консоли.

Я сделал strace на этой программе и проверил, что программа получает ENOTTY для 2-го ioctl, поэтому я написал тестовую программу, которая делает те же вызовы ioctl модулю ядра, что и программа сбоя.

Я проверил, что трассировка, записанная strace, одинакова для обеих программ для этих ioctl, т. е. они вызываются с теми же аргументами, в той же последовательности.

Соответствующая часть моей тестовой программой является:

/*--------------------------- ((( STEP 1 ))) ---------------------------*/

hsdfd1 = open(PCIHSD0, O_RDWR);

if (hsdfd1 < 0) {

    fprintf(stderr, "Error on OPEN, can't open [%s] [%s]", PCIHSD0, strerror(errno));

    exit(1);

}



/*--------------------------- ((( STEP 2 ))) ---------------------------*/

uint8_t xsts;

err = ioctl(hsdfd1, HSDGETXSTS, &xsts);

if (err < 0) {

    fprintf(stderr, "Error HSDGETXSTS [%s]", strerror(errno));

    close(hsdfd1);

    exit(2);

}



/*--------------------------- ((( STEP 3 ))) ---------------------------*/

hsdfd2 = open(PCIHSD0c, O_NDELAY, O_RDONLY);

if (hsdfd2 < 0) {

    fprintf(stderr, "Error on OPEN, can't open [%s] [%s]", PCIHSD0c, strerror(errno));

    close(hsdfd1);

    exit(3);

}



/*--------------------------- ((( STEP 4 ))) ---------------------------*/

err = ioctl(hsdfd2, PCIHSD_DIAG_SETALLOWDC, 0x1);

if (err < 0) {

    fprintf(stderr, "Error PCIHSD_DIAG_SETALLOWDC [%s]", strerror(errno));

    err = 4;

    goto exit;

}

Страты:

Моя тестовая программа:

execve("./hsddebug", ["./hsddebug"], [/* 23 vars */]) = 0

brk(0)                                  = 0xb89000

access("/etc/ld.so.nohwcap", F_OK)      = -1 ENOENT (No such file or directory)

mmap(NULL, 8192, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0) = 0x7f9231c6b000

access("/etc/ld.so.preload", R_OK)      = -1 ENOENT (No such file or directory)

open("/etc/ld.so.cache", O_RDONLY|O_CLOEXEC) = 3

fstat(3, {st_mode=S_IFREG|0644, st_size=105359, ...}) = 0

mmap(NULL, 105359, PROT_READ, MAP_PRIVATE, 3, 0) = 0x7f9231c51000

close(3)                                = 0

access("/etc/ld.so.nohwcap", F_OK)      = -1 ENOENT (No such file or directory)

open("/lib/x86_64-linux-gnu/libc.so.6", O_RDONLY|O_CLOEXEC) = 3

read(3, "177ELF21133>1P342"..., 832) = 832

fstat(3, {st_mode=S_IFREG|0755, st_size=1738176, ...}) = 0

mmap(NULL, 3844640, PROT_READ|PROT_EXEC, MAP_PRIVATE|MAP_DENYWRITE, 3, 0) = 0x7f92316a2000

mprotect(0x7f9231843000, 2097152, PROT_NONE) = 0

mmap(0x7f9231a43000, 24576, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_FIXED|MAP_DENYWRITE, 3, 0x1a1000) = 0x7f9231a43000

mmap(0x7f9231a49000, 14880, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_FIXED|MAP_ANONYMOUS, -1, 0) = 0x7f9231a49000

close(3)                                = 0

mmap(NULL, 4096, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0) = 0x7f9231c50000

mmap(NULL, 4096, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0) = 0x7f9231c4f000

mmap(NULL, 4096, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0) = 0x7f9231c4e000

arch_prctl(ARCH_SET_FS, 0x7f9231c4f700) = 0

mprotect(0x7f9231a43000, 16384, PROT_READ) = 0

mprotect(0x7f9231c6d000, 4096, PROT_READ) = 0

munmap(0x7f9231c51000, 105359)          = 0

rt_sigaction(SIGINT, {0x400826, [INT], SA_RESTORER|SA_RESTART, 0x7f92316d70e0}, {SIG_DFL, [], 0}, 8) = 0

open("/dev/pcihsd0", O_RDWR)            = 3

ioctl(3, PHN_GETREG or RTC_PIE_ON, 0x7ffec60e3643) = 0

open("/dev/pcihsd0c", O_RDONLY|O_NONBLOCK) = 4

ioctl(4, 0x70c0, 0x1)                   = 0

fstat(1, {st_mode=S_IFCHR|0620, st_rdev=makedev(136, 1), ...}) = 0

mmap(NULL, 4096, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0) = 0x7f9231c6a000

write(1, "n", 1)                       = 1

write(1, "OKn", 3)                     = 3

close(3)                                = 0

close(4)                                = 0

exit_group(0)                           = ?

+++ exited with 0 +++

Программа неисправностей:

execve("./pcihsd", ["./pcihsd"], [/* 18 vars */]) = 0

uname({sys="Linux", node="debian", ...}) = 0

brk(0)                                  = 0x83bb000

brk(0x83dc000)                          = 0x83dc000

rt_sigaction(SIGINT, {0x804848f, [INT], SA_RESTORER|SA_RESTART, 0x806ab28}, {SIG_DFL, [], 0}, 8) = 0

rt_sigaction(SIGQUIT, {0x804842b, [QUIT], SA_RESTORER|SA_RESTART, 0x806ab28}, {SIG_DFL, [], 0}, 8) = 0

open("PCIHSD.hlp", O_RDONLY)            = 3

old_mmap(NULL, 266240, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0) = 0xfffffffff76d7000

ioctl(1, SNDCTL_TMR_TIMEBASE or SNDRV_TIMER_IOCTL_NEXT_DEVICE or TCGETS, {B38400 opost isig icanon echo ...}) = 0

access("/root/.terminfo/l/linux-fk", R_OK) = -1 ENOENT (No such file or directory)

access("/usr/share/terminfo/l/linux-fk", R_OK) = 0

open("/usr/share/terminfo/l/linux-fk", O_RDONLY) = 4

read(4, "321/3520}1a3", 12) = 12

read(4, "linux-fk|linux console with sF9 "..., 47) = 47

read(4, "11111111", 29) = 29

read(4, "3773771037737737737737737737737737737737737737737737737737737737737737737710@22", 32) = 32

read(4, "377377242532!%)3773774EGKW377377"..., 762) = 762

read(4, "7r33[%i%p1%d;%p2%dr33[3g33[H33[J"..., 865) = 865

read(4, "", 1)                          = 0

read(4, "", 10)                         = 0

close(4)                                = 0

ioctl(1, SNDCTL_TMR_TIMEBASE or SNDRV_TIMER_IOCTL_NEXT_DEVICE or TCGETS, {B38400 opost isig icanon echo ...}) = 0

ioctl(1, SNDCTL_TMR_TIMEBASE or SNDRV_TIMER_IOCTL_NEXT_DEVICE or TCGETS, {B38400 opost isig icanon echo ...}) = 0

ioctl(1, SNDCTL_TMR_TIMEBASE or SNDRV_TIMER_IOCTL_NEXT_DEVICE or TCGETS, {B38400 opost isig icanon echo ...}) = 0

ioctl(1, TIOCGWINSZ, {ws_row=64, ws_col=160, ws_xpixel=0, ws_ypixel=0}) = 0

ioctl(1, SNDCTL_TMR_TIMEBASE or SNDRV_TIMER_IOCTL_NEXT_DEVICE or TCGETS, {B38400 opost isig icanon echo ...}) = 0

ioctl(1, SNDCTL_TMR_TIMEBASE or SNDRV_TIMER_IOCTL_NEXT_DEVICE or TCGETS, {B38400 opost isig icanon echo ...}) = 0

brk(0x83fd000)                          = 0x83fd000

ioctl(1, SNDCTL_TMR_TIMEBASE or SNDRV_TIMER_IOCTL_NEXT_DEVICE or TCGETS, {B38400 opost isig icanon echo ...}) = 0

ioctl(1, SNDCTL_TMR_STOP or SNDRV_TIMER_IOCTL_GINFO or TCSETSW, {B38400 opost isig -icanon echo ...}) = 0

ioctl(1, SNDCTL_TMR_STOP or SNDRV_TIMER_IOCTL_GINFO or TCSETSW, {B38400 opost isig -icanon -echo ...}) = 0

rt_sigaction(SIGTSTP, NULL, {SIG_DFL, [], 0}, 8) = 0

rt_sigaction(SIGTSTP, {0x805d130, [], SA_RESTORER|SA_RESTART, 0x806ab28}, NULL, 8) = 0

rt_sigaction(SIGINT, NULL, {0x804848f, [INT], SA_RESTORER|SA_RESTART, 0x806ab28}, 8) = 0

rt_sigaction(SIGTERM, NULL, {SIG_DFL, [], 0}, 8) = 0

rt_sigaction(SIGTERM, {0x805d310, [], SA_RESTORER|SA_RESTART, 0x806ab28}, NULL, 8) = 0

rt_sigaction(SIGWINCH, NULL, {SIG_DFL, [], 0}, 8) = 0

rt_sigaction(SIGWINCH, {0x805d410, [], SA_RESTORER, 0x806ab28}, NULL, 8) = 0

ioctl(1, SNDCTL_TMR_TIMEBASE or SNDRV_TIMER_IOCTL_NEXT_DEVICE or TCGETS, {B38400 opost isig -icanon -echo ...}) = 0

ioctl(1, SNDCTL_TMR_STOP or SNDRV_TIMER_IOCTL_GINFO or TCSETSW, {B38400 opost isig -icanon -echo ...}) = 0

write(1, "33[1;64r33[0;10m33[4l33[?7h33[?25h33[?"..., 34) = 34

rt_sigaction(SIGTSTP, {SIG_IGN, [], SA_RESTORER|SA_RESTART, 0x806ab28}, {0x805d130, [], SA_RESTORER|SA_RESTART, 0x806ab28}, 8) = 0

write(1, "33[H33[J33[24d", 11)       = 11

rt_sigaction(SIGTSTP, {0x805d130, [], SA_RESTORER|SA_RESTART, 0x806ab28}, NULL, 8) = 0

write(1, "33[?25l33[?1c", 11)         = 11

open("PCIHSD.dft", O_RDONLY)            = -1 ENOENT (No such file or directory)

open("/dev/pcihsd0", O_RDWR)            = 4

ioctl(4, PHN_GETREG or RTC_PIE_ON, 0x80cd480) = 0

rt_sigaction(SIGALRM, {0x804950f, [], SA_RESTORER|SA_INTERRUPT|SA_NODEFER|SA_RESETHAND, 0x806ab28}, {SIG_DFL, [], 0}, 8) = 0

open("/dev/pcihsd0c", O_RDONLY|O_NONBLOCK) = 5

ioctl(5, 0x70c0, 0x1)                   = -1 ENOTTY (Inappropriate ioctl for device)

close(4)                                = 0

close(5)                                = 0

Как вы можете видеть, в обоих случаях соответствующие вызовы ioctl одинаковы, т. е.:

open("/dev/pcihsd0", O_RDWR)            = descriptor1

ioctl(descriptor1, PHN_GETREG or RTC_PIE_ON, 0x7ffec60e3643) = 0

open("/dev/pcihsd0c", O_RDONLY|O_NONBLOCK) = descriptor2

ioctl(descriptor2, 0x70c0, 0x1)                   = 0/ENOTTY ???

Вопрос1:

Что может быть причиной того, что второй вызов ioctl (который с cmd 0x70c0) не получает функции ядра sys_ioctl/vfs_ioctl, вызываемые при его выполнении (старой) программой сбоя (у меня есть точка останова, установленная на работающем ядре - вызов не выполняется)? записывается ядром, даже если вызов первого ioctl записан правильно и точка останова достигнута для обеих программ)?

Вопрос 2:

Куда вставить точку останова, чтобы отладить это? Почему я вообще не вижу sys_ioctl вызываемого в случае программы сбоя?

---

Правка:

Спасибо Wumpus Q. Wumbley за ответ на вопрос1.

Ответ на вопрос 2 таков:

Когда compat_ioctl реализуется драйвером, то compat_SyS_ioctl вызывается и не compat_ioctl. Он называется от do_syscall32_irqs_on/do_syscall_32_irqs_off, которые называются от entry_INT80_compat.
Также sys32_pread/SyS_pread64 вызывается из entry_INT80_compat для struct file_operation обработчика read.