rework external irq system, introduce hierarchical irq
[lunaix-os.git] / lunaix-os / kernel / process / sched.c
1 #include <asm/abi.h>
2 #include <asm/mempart.h>
3
4 #include <asm/cpu.h>
5
6 #include <lunaix/fs/taskfs.h>
7 #include <lunaix/mm/cake.h>
8 #include <lunaix/mm/mmap.h>
9 #include <lunaix/mm/pmm.h>
10 #include <lunaix/mm/valloc.h>
11 #include <lunaix/mm/vmm.h>
12 #include <lunaix/mm/procvm.h>
13 #include <lunaix/process.h>
14 #include <lunaix/sched.h>
15 #include <lunaix/signal.h>
16 #include <lunaix/spike.h>
17 #include <lunaix/status.h>
18 #include <lunaix/syscall.h>
19 #include <lunaix/syslog.h>
20 #include <lunaix/hart_state.h>
21 #include <lunaix/kpreempt.h>
22
23 #include <asm-generic/isrm.h>
24
25 #include <klibc/string.h>
26
27 struct thread empty_thread_obj;
28
29 volatile struct proc_info* __current;
30 volatile struct thread* current_thread = &empty_thread_obj;
31
32 struct scheduler sched_ctx;
33
34 struct cake_pile *proc_pile ,*thread_pile;
35
36 #define root_process   (sched_ctx.procs[1])
37
38 LOG_MODULE("SCHED")
39
40 void
41 sched_init()
42 {
43     proc_pile = cake_new_pile("proc", sizeof(struct proc_info), 1, 0);
44     thread_pile = cake_new_pile("thread", sizeof(struct thread), 1, 0);
45     cake_set_constructor(proc_pile, cake_ctor_zeroing);
46     cake_set_constructor(thread_pile, cake_ctor_zeroing);
47
48     sched_ctx = (struct scheduler){
49         .procs = vzalloc(PROC_TABLE_SIZE), .ptable_len = 0, .procs_index = 0};
50     
51     llist_init_head(&sched_ctx.sleepers);
52 }
53
54 void
55 run(struct thread* thread)
56 {
57     thread->state = PS_RUNNING;
58     thread->process->state = PS_RUNNING;
59     thread->process->th_active = thread;
60
61     procvm_mount_self(vmspace(thread->process));
62     set_current_executing(thread);
63
64     switch_context();
65
66     fail("unexpected return from switching");
67 }
68
69 /*
70     Currently, we do not allow self-destorying thread, doing
71     so will eliminate current kernel stack which is disaster.
72     A compromise solution is to perform a regular scan and 
73     clean-up on these thread, in the preemptible kernel thread.
74 */
75
76 void
77 cleanup_detached_threads() 
78 {
79     // XXX may be a lock on sched_context will ben the most appropriate?
80     cpu_disable_interrupt();
81
82     int i = 0;
83     struct thread *pos, *n;
84     llist_for_each(pos, n, sched_ctx.threads, sched_sibs) {
85         if (likely(!proc_terminated(pos) || !thread_detached(pos))) {
86             continue;
87         }
88
89         struct proc_mm* mm = vmspace(pos->process);
90
91         procvm_mount(mm);
92         destory_thread(pos);
93         procvm_unmount(mm);
94         
95         i++;
96     }
97
98     if (i) {
99         INFO("cleaned %d terminated detached thread(s)", i);
100     }
101
102     cpu_enable_interrupt();
103 }
104
105 bool
106 can_schedule(struct thread* thread)
107 {
108     if (!thread) {
109         return 0;
110     }
111
112     if (proc_terminated(thread)) {
113         return false;
114     }
115
116     if (preempt_check_stalled(thread)) {
117         thread_flags_set(thread, TH_STALLED);
118         return true;
119     }
120
121     if (unlikely(kernel_process(thread->process))) {
122         // a kernel process is always runnable
123         return thread->state == PS_READY;
124     }
125
126     struct sigctx* sh = &thread->sigctx;
127
128     if ((thread->state & PS_PAUSED)) {
129         return !!(sh->sig_pending & ~1);
130     }
131
132     if ((thread->state & PS_BLOCKED)) {
133         return sigset_test(sh->sig_pending, _SIGINT);
134     }
135
136     if (sigset_test(sh->sig_pending, _SIGSTOP)) {
137         // If one thread is experiencing SIGSTOP, then we know
138         // all other threads are also SIGSTOP (as per POSIX-2008.1)
139         // In which case, the entire process is stopped.
140         thread->state = PS_STOPPED;
141         return false;
142     }
143     
144     if (sigset_test(sh->sig_pending, _SIGCONT)) {
145         thread->state = PS_READY;
146     }
147
148     return (thread->state == PS_READY) \
149             && proc_runnable(thread->process);
150 }
151
152 void
153 check_sleepers()
154 {
155     struct thread *pos, *n;
156     time_t now = clock_systime() / 1000;
157
158     llist_for_each(pos, n, &sched_ctx.sleepers, sleep.sleepers)
159     {
160         if (proc_terminated(pos)) {
161             goto del;
162         }
163
164         time_t wtime = pos->sleep.wakeup_time;
165         time_t atime = pos->sleep.alarm_time;
166
167         if (wtime && now >= wtime) {
168             pos->sleep.wakeup_time = 0;
169             pos->state = PS_READY;
170         }
171
172         if (atime && now >= atime) {
173             pos->sleep.alarm_time = 0;
174             thread_setsignal(pos, _SIGALRM);
175         }
176
177         if (!wtime && !atime) {
178         del:
179             llist_delete(&pos->sleep.sleepers);
180         }
181     }
182 }
183
184 void
185 schedule()
186 {
187     assert(sched_ctx.ptable_len && sched_ctx.ttable_len);
188
189     // 上下文切换相当的敏感!我们不希望任何的中断打乱栈的顺序……
190     no_preemption();
191
192     if (!(current_thread->state & ~PS_RUNNING)) {
193         current_thread->state = PS_READY;
194         __current->state = PS_READY;
195
196     }
197
198     procvm_unmount_self(vmspace(__current));
199     check_sleepers();
200
201     // round-robin scheduler
202     
203     struct thread* current = current_thread;
204     struct thread* to_check = current;
205     
206     do {
207         to_check = list_next(to_check, struct thread, sched_sibs);
208
209         if (can_schedule(to_check)) {
210             break;
211         }
212
213         if (to_check == current) {
214             // FIXME do something less leathal here
215             fail("Ran out of threads!")
216             goto done;  
217         }
218
219     } while (1);
220
221     sched_ctx.procs_index = to_check->process->pid;
222
223 done:
224     run(to_check);
225
226     fail("unexpected return from scheduler");
227 }
228
229 __DEFINE_LXSYSCALL1(unsigned int, sleep, unsigned int, seconds)
230 {
231     if (!seconds) {
232         return 0;
233     }
234
235     time_t systime = clock_systime() / 1000;
236     struct haybed* bed = &current_thread->sleep;
237
238     if (bed->wakeup_time) {
239         return (bed->wakeup_time - systime);
240     }
241
242     bed->wakeup_time = systime + seconds;
243
244     if (llist_empty(&bed->sleepers)) {
245         llist_append(&sched_ctx.sleepers, &bed->sleepers);
246     }
247
248     store_retval(seconds);
249
250     block_current_thread();
251     schedule();
252
253     return 0;
254 }
255
256 __DEFINE_LXSYSCALL1(unsigned int, alarm, unsigned int, seconds)
257 {
258     struct haybed* bed = &current_thread->sleep;
259     time_t prev_ddl = bed->alarm_time;
260     time_t now = clock_systime() / 1000;
261
262     bed->alarm_time = seconds ? now + seconds : 0;
263
264     if (llist_empty(&bed->sleepers)) {
265         llist_append(&sched_ctx.sleepers, &bed->sleepers);
266     }
267
268     return prev_ddl ? (prev_ddl - now) : 0;
269 }
270
271 __DEFINE_LXSYSCALL1(void, exit, int, status)
272 {
273     terminate_current(status);
274     schedule();
275 }
276
277 __DEFINE_LXSYSCALL(void, yield)
278 {
279     schedule();
280 }
281
282 pid_t
283 _wait(pid_t wpid, int* status, int options);
284
285 __DEFINE_LXSYSCALL1(pid_t, wait, int*, status)
286 {
287     return _wait(-1, status, 0);
288 }
289
290 __DEFINE_LXSYSCALL3(pid_t, waitpid, pid_t, pid, int*, status, int, options)
291 {
292     return _wait(pid, status, options);
293 }
294
295 __DEFINE_LXSYSCALL(int, geterrno)
296 {
297     return current_thread->syscall_ret;
298 }
299
300 pid_t
301 _wait(pid_t wpid, int* status, int options)
302 {
303     pid_t cur = __current->pid;
304     int status_flags = 0;
305     struct proc_info *proc, *n;
306     if (llist_empty(&__current->children)) {
307         return -1;
308     }
309
310     wpid = wpid ? wpid : -__current->pgid;
311
312 repeat:
313     llist_for_each(proc, n, &__current->children, siblings)
314     {
315         if (!~wpid || proc->pid == wpid || proc->pgid == -wpid) {
316             if (proc->state == PS_TERMNAT && !options) {
317                 status_flags |= PEXITTERM;
318                 goto done;
319             }
320             if (proc->state == PS_READY && (options & WUNTRACED)) {
321                 status_flags |= PEXITSTOP;
322                 goto done;
323             }
324         }
325     }
326     if ((options & WNOHANG)) {
327         return 0;
328     }
329     // 放弃当前的运行机会
330     yield_current();
331     goto repeat;
332
333 done:
334     if (status) {
335         *status = PEXITNUM(status_flags, proc->exit_code);
336     }
337     return destroy_process(proc->pid);
338 }
339
340 static inline pid_t
341 get_free_pid() {
342     pid_t i = 0;
343     
344     for (; i < sched_ctx.ptable_len && sched_ctx.procs[i]; i++)
345         ;
346     
347     if (unlikely(i == MAX_PROCESS)) {
348         fail("Panic in Ponyville shimmer!");
349     }
350
351     return i;
352 }
353
354 struct thread*
355 alloc_thread(struct proc_info* process) {
356     if (process->thread_count >= MAX_THREAD_PP) {
357         return NULL;
358     }
359     
360     struct thread* th = cake_grab(thread_pile);
361
362     th->process = process;
363     th->created = clock_systime();
364
365     // FIXME we need a better tid allocation method!
366     th->tid = th->created;
367     th->tid = (th->created ^ ((ptr_t)th)) % MAX_THREAD_PP;
368
369     th->state = PS_CREATED;
370     
371     llist_init_head(&th->sleep.sleepers);
372     llist_init_head(&th->sched_sibs);
373     llist_init_head(&th->proc_sibs);
374     waitq_init(&th->waitqueue);
375
376     return th;
377 }
378
379 struct proc_info*
380 alloc_process()
381 {
382     pid_t i = get_free_pid();
383
384     if (i == sched_ctx.ptable_len) {
385         sched_ctx.ptable_len++;
386     }
387
388     struct proc_info* proc = cake_grab(proc_pile);
389     if (!proc) {
390         return NULL;
391     }
392
393     proc->state = PS_CREATED;
394     proc->pid = i;
395     proc->created = clock_systime();
396     proc->pgid = proc->pid;
397
398     proc->sigreg = vzalloc(sizeof(struct sigregistry));
399     proc->fdtable = vzalloc(sizeof(struct v_fdtable));
400
401     proc->mm = procvm_create(proc);
402     
403     llist_init_head(&proc->tasks);
404     llist_init_head(&proc->children);
405     llist_init_head(&proc->grp_member);
406     llist_init_head(&proc->threads);
407
408     iopoll_init(&proc->pollctx);
409
410     sched_ctx.procs[i] = proc;
411
412     return proc;
413 }
414
415 void
416 commit_thread(struct thread* thread) {
417     struct proc_info* process = thread->process;
418
419     assert(process && !proc_terminated(process));
420
421     llist_append(&process->threads, &thread->proc_sibs);
422     
423     if (sched_ctx.threads) {
424         llist_append(sched_ctx.threads, &thread->sched_sibs);
425     } else {
426         sched_ctx.threads = &thread->sched_sibs;
427     }
428
429     sched_ctx.ttable_len++;
430     process->thread_count++;
431     thread->state = PS_READY;
432 }
433
434 void
435 commit_process(struct proc_info* process)
436 {
437     assert(process == sched_ctx.procs[process->pid]);
438     assert(process->state == PS_CREATED);
439
440     // every process is the child of first process (pid=1)
441     if (!process->parent) {
442         if (likely(!kernel_process(process))) {
443             process->parent = root_process;
444         } else {
445             process->parent = process;
446         }
447     } else {
448         assert(!proc_terminated(process->parent));
449     }
450
451     if (sched_ctx.proc_list) {
452         llist_append(sched_ctx.proc_list, &process->tasks);
453     } else {
454         sched_ctx.proc_list = &process->tasks;
455     }
456
457     llist_append(&process->parent->children, &process->siblings);
458
459     process->state = PS_READY;
460 }
461
462 void
463 destory_thread(struct thread* thread) 
464 {
465     cake_ensure_valid(thread);
466     
467     struct proc_info* proc = thread->process;
468
469     llist_delete(&thread->sched_sibs);
470     llist_delete(&thread->proc_sibs);
471     llist_delete(&thread->sleep.sleepers);
472     waitq_cancel_wait(&thread->waitqueue);
473
474     thread_release_mem(thread);
475
476     proc->thread_count--;
477     sched_ctx.ttable_len--;
478
479     cake_release(thread_pile, thread);
480 }
481
482 static void
483 orphan_children(struct proc_info* proc)
484 {
485     struct proc_info *root;
486     struct proc_info *pos, *n;
487
488     root = root_process;
489
490     llist_for_each(pos, n, &proc->children, siblings) {
491         pos->parent = root;
492         llist_append(&root->children, &pos->siblings);
493     }
494 }
495
496 void 
497 delete_process(struct proc_info* proc)
498 {
499     pid_t pid = proc->pid;
500     struct proc_mm* mm = vmspace(proc);
501
502     assert(pid);    // long live the pid0 !!
503
504     sched_ctx.procs[pid] = NULL;
505
506     llist_delete(&proc->siblings);
507     llist_delete(&proc->grp_member);
508     llist_delete(&proc->tasks);
509
510     iopoll_free(proc);
511
512     taskfs_invalidate(pid);
513
514     if (proc->cwd) {
515         vfs_unref_dnode(proc->cwd);
516     }
517
518     if (proc->cmd) {
519         vfree(proc->cmd);
520     }
521
522     for (size_t i = 0; i < VFS_MAX_FD; i++) {
523         struct v_fd* fd = proc->fdtable->fds[i];
524         if (fd) {
525             vfs_pclose(fd->file, pid);
526             vfs_free_fd(fd);
527         }
528     }
529
530     vfree(proc->fdtable);
531
532     signal_free_registry(proc->sigreg);
533
534     procvm_mount(mm);
535     
536     struct thread *pos, *n;
537     llist_for_each(pos, n, &proc->threads, proc_sibs) {
538         // terminate and destory all thread unconditionally
539         destory_thread(pos);
540     }
541
542     orphan_children(proc);
543
544     procvm_unmount_release(mm);
545
546     cake_release(proc_pile, proc);
547 }
548
549 pid_t
550 destroy_process(pid_t pid)
551 {    
552     int index = pid;
553     if (index <= 0 || index > sched_ctx.ptable_len) {
554         syscall_result(EINVAL);
555         return -1;
556     }
557
558     struct proc_info* proc = sched_ctx.procs[index];
559     delete_process(proc);
560
561     return pid;
562 }
563
564 static void 
565 terminate_proc_only(struct proc_info* proc, int exit_code) {
566     assert(proc->pid != 0);
567
568     proc->state = PS_TERMNAT;
569     proc->exit_code = exit_code;
570
571     proc_setsignal(proc->parent, _SIGCHLD);
572 }
573
574 void
575 terminate_thread(struct thread* thread, ptr_t val) {
576     thread->exit_val = val;
577     thread->state = PS_TERMNAT;
578
579     struct proc_info* proc = thread->process;
580     if (proc->thread_count == 1) {
581         terminate_proc_only(thread->process, 0);
582     }
583 }
584
585 void
586 terminate_current_thread(ptr_t val) {
587     terminate_thread(current_thread, val);
588 }
589
590 void 
591 terminate_proccess(struct proc_info* proc, int exit_code) {
592     assert(!kernel_process(proc));
593
594     if (proc->pid == 1) {
595         fail("Attempt to kill init");
596     }
597
598     terminate_proc_only(proc, exit_code);
599
600     struct thread *pos, *n;
601     llist_for_each(pos, n, &proc->threads, proc_sibs) {
602         pos->state = PS_TERMNAT;
603     }
604 }
605
606 void
607 terminate_current(int exit_code)
608 {
609     terminate_proccess(__current, exit_code);
610 }
611
612 struct proc_info*
613 get_process(pid_t pid)
614 {
615     int index = pid;
616     if (index < 0 || index > sched_ctx.ptable_len) {
617         return NULL;
618     }
619     return sched_ctx.procs[index];
620 }
621
622 int
623 orphaned_proc(pid_t pid)
624 {
625     if (!pid)
626         return 0;
627     if (pid >= sched_ctx.ptable_len)
628         return 0;
629     struct proc_info* proc = sched_ctx.procs[pid];
630     struct proc_info* parent = proc->parent;
631
632     // 如果其父进程的状态是terminated 或 destroy中的一种
633     // 或者其父进程是在该进程之后创建的,那么该进程为孤儿进程
634     return proc_terminated(parent) || parent->created > proc->created;
635 }