x86, percpu: Collect hot percpu variables into one cacheline
[~shefty/rdma-dev.git] / arch / x86 / kernel / process_64.c
1 /*
2  *  Copyright (C) 1995  Linus Torvalds
3  *
4  *  Pentium III FXSR, SSE support
5  *      Gareth Hughes <gareth@valinux.com>, May 2000
6  *
7  *  X86-64 port
8  *      Andi Kleen.
9  *
10  *      CPU hotplug support - ashok.raj@intel.com
11  */
12
13 /*
14  * This file handles the architecture-dependent parts of process handling..
15  */
16
17 #include <linux/stackprotector.h>
18 #include <linux/cpu.h>
19 #include <linux/errno.h>
20 #include <linux/sched.h>
21 #include <linux/fs.h>
22 #include <linux/kernel.h>
23 #include <linux/mm.h>
24 #include <linux/elfcore.h>
25 #include <linux/smp.h>
26 #include <linux/slab.h>
27 #include <linux/user.h>
28 #include <linux/interrupt.h>
29 #include <linux/utsname.h>
30 #include <linux/delay.h>
31 #include <linux/module.h>
32 #include <linux/ptrace.h>
33 #include <linux/notifier.h>
34 #include <linux/kprobes.h>
35 #include <linux/kdebug.h>
36 #include <linux/tick.h>
37 #include <linux/prctl.h>
38 #include <linux/uaccess.h>
39 #include <linux/io.h>
40 #include <linux/ftrace.h>
41 #include <linux/dmi.h>
42
43 #include <asm/pgtable.h>
44 #include <asm/system.h>
45 #include <asm/processor.h>
46 #include <asm/i387.h>
47 #include <asm/mmu_context.h>
48 #include <asm/prctl.h>
49 #include <asm/desc.h>
50 #include <asm/proto.h>
51 #include <asm/ia32.h>
52 #include <asm/idle.h>
53 #include <asm/syscalls.h>
54 #include <asm/ds.h>
55
56 asmlinkage extern void ret_from_fork(void);
57
58 DEFINE_PER_CPU(unsigned long, old_rsp);
59 static DEFINE_PER_CPU(unsigned char, is_idle);
60
61 unsigned long kernel_thread_flags = CLONE_VM | CLONE_UNTRACED;
62
63 static ATOMIC_NOTIFIER_HEAD(idle_notifier);
64
65 void idle_notifier_register(struct notifier_block *n)
66 {
67         atomic_notifier_chain_register(&idle_notifier, n);
68 }
69 EXPORT_SYMBOL_GPL(idle_notifier_register);
70
71 void idle_notifier_unregister(struct notifier_block *n)
72 {
73         atomic_notifier_chain_unregister(&idle_notifier, n);
74 }
75 EXPORT_SYMBOL_GPL(idle_notifier_unregister);
76
77 void enter_idle(void)
78 {
79         percpu_write(is_idle, 1);
80         atomic_notifier_call_chain(&idle_notifier, IDLE_START, NULL);
81 }
82
83 static void __exit_idle(void)
84 {
85         if (x86_test_and_clear_bit_percpu(0, is_idle) == 0)
86                 return;
87         atomic_notifier_call_chain(&idle_notifier, IDLE_END, NULL);
88 }
89
90 /* Called from interrupts to signify idle end */
91 void exit_idle(void)
92 {
93         /* idle loop has pid 0 */
94         if (current->pid)
95                 return;
96         __exit_idle();
97 }
98
99 #ifndef CONFIG_SMP
100 static inline void play_dead(void)
101 {
102         BUG();
103 }
104 #endif
105
106 /*
107  * The idle thread. There's no useful work to be
108  * done, so just try to conserve power and have a
109  * low exit latency (ie sit in a loop waiting for
110  * somebody to say that they'd like to reschedule)
111  */
112 void cpu_idle(void)
113 {
114         current_thread_info()->status |= TS_POLLING;
115
116         /*
117          * If we're the non-boot CPU, nothing set the stack canary up
118          * for us.  CPU0 already has it initialized but no harm in
119          * doing it again.  This is a good place for updating it, as
120          * we wont ever return from this function (so the invalid
121          * canaries already on the stack wont ever trigger).
122          */
123         boot_init_stack_canary();
124
125         /* endless idle loop with no priority at all */
126         while (1) {
127                 tick_nohz_stop_sched_tick(1);
128                 while (!need_resched()) {
129
130                         rmb();
131
132                         if (cpu_is_offline(smp_processor_id()))
133                                 play_dead();
134                         /*
135                          * Idle routines should keep interrupts disabled
136                          * from here on, until they go to idle.
137                          * Otherwise, idle callbacks can misfire.
138                          */
139                         local_irq_disable();
140                         enter_idle();
141                         /* Don't trace irqs off for idle */
142                         stop_critical_timings();
143                         pm_idle();
144                         start_critical_timings();
145                         /* In many cases the interrupt that ended idle
146                            has already called exit_idle. But some idle
147                            loops can be woken up without interrupt. */
148                         __exit_idle();
149                 }
150
151                 tick_nohz_restart_sched_tick();
152                 preempt_enable_no_resched();
153                 schedule();
154                 preempt_disable();
155         }
156 }
157
158 /* Prints also some state that isn't saved in the pt_regs */
159 void __show_regs(struct pt_regs *regs, int all)
160 {
161         unsigned long cr0 = 0L, cr2 = 0L, cr3 = 0L, cr4 = 0L, fs, gs, shadowgs;
162         unsigned long d0, d1, d2, d3, d6, d7;
163         unsigned int fsindex, gsindex;
164         unsigned int ds, cs, es;
165         const char *board;
166
167         printk("\n");
168         print_modules();
169         board = dmi_get_system_info(DMI_PRODUCT_NAME);
170         if (!board)
171                 board = "";
172         printk(KERN_INFO "Pid: %d, comm: %.20s %s %s %.*s %s\n",
173                 current->pid, current->comm, print_tainted(),
174                 init_utsname()->release,
175                 (int)strcspn(init_utsname()->version, " "),
176                 init_utsname()->version, board);
177         printk(KERN_INFO "RIP: %04lx:[<%016lx>] ", regs->cs & 0xffff, regs->ip);
178         printk_address(regs->ip, 1);
179         printk(KERN_INFO "RSP: %04lx:%016lx  EFLAGS: %08lx\n", regs->ss,
180                         regs->sp, regs->flags);
181         printk(KERN_INFO "RAX: %016lx RBX: %016lx RCX: %016lx\n",
182                regs->ax, regs->bx, regs->cx);
183         printk(KERN_INFO "RDX: %016lx RSI: %016lx RDI: %016lx\n",
184                regs->dx, regs->si, regs->di);
185         printk(KERN_INFO "RBP: %016lx R08: %016lx R09: %016lx\n",
186                regs->bp, regs->r8, regs->r9);
187         printk(KERN_INFO "R10: %016lx R11: %016lx R12: %016lx\n",
188                regs->r10, regs->r11, regs->r12);
189         printk(KERN_INFO "R13: %016lx R14: %016lx R15: %016lx\n",
190                regs->r13, regs->r14, regs->r15);
191
192         asm("movl %%ds,%0" : "=r" (ds));
193         asm("movl %%cs,%0" : "=r" (cs));
194         asm("movl %%es,%0" : "=r" (es));
195         asm("movl %%fs,%0" : "=r" (fsindex));
196         asm("movl %%gs,%0" : "=r" (gsindex));
197
198         rdmsrl(MSR_FS_BASE, fs);
199         rdmsrl(MSR_GS_BASE, gs);
200         rdmsrl(MSR_KERNEL_GS_BASE, shadowgs);
201
202         if (!all)
203                 return;
204
205         cr0 = read_cr0();
206         cr2 = read_cr2();
207         cr3 = read_cr3();
208         cr4 = read_cr4();
209
210         printk(KERN_INFO "FS:  %016lx(%04x) GS:%016lx(%04x) knlGS:%016lx\n",
211                fs, fsindex, gs, gsindex, shadowgs);
212         printk(KERN_INFO "CS:  %04x DS: %04x ES: %04x CR0: %016lx\n", cs, ds,
213                         es, cr0);
214         printk(KERN_INFO "CR2: %016lx CR3: %016lx CR4: %016lx\n", cr2, cr3,
215                         cr4);
216
217         get_debugreg(d0, 0);
218         get_debugreg(d1, 1);
219         get_debugreg(d2, 2);
220         printk(KERN_INFO "DR0: %016lx DR1: %016lx DR2: %016lx\n", d0, d1, d2);
221         get_debugreg(d3, 3);
222         get_debugreg(d6, 6);
223         get_debugreg(d7, 7);
224         printk(KERN_INFO "DR3: %016lx DR6: %016lx DR7: %016lx\n", d3, d6, d7);
225 }
226
227 void show_regs(struct pt_regs *regs)
228 {
229         printk(KERN_INFO "CPU %d:", smp_processor_id());
230         __show_regs(regs, 1);
231         show_trace(NULL, regs, (void *)(regs + 1), regs->bp);
232 }
233
234 void release_thread(struct task_struct *dead_task)
235 {
236         if (dead_task->mm) {
237                 if (dead_task->mm->context.size) {
238                         printk("WARNING: dead process %8s still has LDT? <%p/%d>\n",
239                                         dead_task->comm,
240                                         dead_task->mm->context.ldt,
241                                         dead_task->mm->context.size);
242                         BUG();
243                 }
244         }
245 }
246
247 static inline void set_32bit_tls(struct task_struct *t, int tls, u32 addr)
248 {
249         struct user_desc ud = {
250                 .base_addr = addr,
251                 .limit = 0xfffff,
252                 .seg_32bit = 1,
253                 .limit_in_pages = 1,
254                 .useable = 1,
255         };
256         struct desc_struct *desc = t->thread.tls_array;
257         desc += tls;
258         fill_ldt(desc, &ud);
259 }
260
261 static inline u32 read_32bit_tls(struct task_struct *t, int tls)
262 {
263         return get_desc_base(&t->thread.tls_array[tls]);
264 }
265
266 /*
267  * This gets called before we allocate a new thread and copy
268  * the current task into it.
269  */
270 void prepare_to_copy(struct task_struct *tsk)
271 {
272         unlazy_fpu(tsk);
273 }
274
275 int copy_thread(unsigned long clone_flags, unsigned long sp,
276                 unsigned long unused,
277         struct task_struct *p, struct pt_regs *regs)
278 {
279         int err;
280         struct pt_regs *childregs;
281         struct task_struct *me = current;
282
283         childregs = ((struct pt_regs *)
284                         (THREAD_SIZE + task_stack_page(p))) - 1;
285         *childregs = *regs;
286
287         childregs->ax = 0;
288         childregs->sp = sp;
289         if (sp == ~0UL)
290                 childregs->sp = (unsigned long)childregs;
291
292         p->thread.sp = (unsigned long) childregs;
293         p->thread.sp0 = (unsigned long) (childregs+1);
294         p->thread.usersp = me->thread.usersp;
295
296         set_tsk_thread_flag(p, TIF_FORK);
297
298         p->thread.fs = me->thread.fs;
299         p->thread.gs = me->thread.gs;
300
301         savesegment(gs, p->thread.gsindex);
302         savesegment(fs, p->thread.fsindex);
303         savesegment(es, p->thread.es);
304         savesegment(ds, p->thread.ds);
305
306         if (unlikely(test_tsk_thread_flag(me, TIF_IO_BITMAP))) {
307                 p->thread.io_bitmap_ptr = kmalloc(IO_BITMAP_BYTES, GFP_KERNEL);
308                 if (!p->thread.io_bitmap_ptr) {
309                         p->thread.io_bitmap_max = 0;
310                         return -ENOMEM;
311                 }
312                 memcpy(p->thread.io_bitmap_ptr, me->thread.io_bitmap_ptr,
313                                 IO_BITMAP_BYTES);
314                 set_tsk_thread_flag(p, TIF_IO_BITMAP);
315         }
316
317         /*
318          * Set a new TLS for the child thread?
319          */
320         if (clone_flags & CLONE_SETTLS) {
321 #ifdef CONFIG_IA32_EMULATION
322                 if (test_thread_flag(TIF_IA32))
323                         err = do_set_thread_area(p, -1,
324                                 (struct user_desc __user *)childregs->si, 0);
325                 else
326 #endif
327                         err = do_arch_prctl(p, ARCH_SET_FS, childregs->r8);
328                 if (err)
329                         goto out;
330         }
331
332         clear_tsk_thread_flag(p, TIF_DS_AREA_MSR);
333         p->thread.ds_ctx = NULL;
334
335         clear_tsk_thread_flag(p, TIF_DEBUGCTLMSR);
336         p->thread.debugctlmsr = 0;
337
338         err = 0;
339 out:
340         if (err && p->thread.io_bitmap_ptr) {
341                 kfree(p->thread.io_bitmap_ptr);
342                 p->thread.io_bitmap_max = 0;
343         }
344         return err;
345 }
346
347 void
348 start_thread(struct pt_regs *regs, unsigned long new_ip, unsigned long new_sp)
349 {
350         loadsegment(fs, 0);
351         loadsegment(es, 0);
352         loadsegment(ds, 0);
353         load_gs_index(0);
354         regs->ip                = new_ip;
355         regs->sp                = new_sp;
356         percpu_write(old_rsp, new_sp);
357         regs->cs                = __USER_CS;
358         regs->ss                = __USER_DS;
359         regs->flags             = 0x200;
360         set_fs(USER_DS);
361         /*
362          * Free the old FP and other extended state
363          */
364         free_thread_xstate(current);
365 }
366 EXPORT_SYMBOL_GPL(start_thread);
367
368 /*
369  *      switch_to(x,y) should switch tasks from x to y.
370  *
371  * This could still be optimized:
372  * - fold all the options into a flag word and test it with a single test.
373  * - could test fs/gs bitsliced
374  *
375  * Kprobes not supported here. Set the probe on schedule instead.
376  * Function graph tracer not supported too.
377  */
378 __notrace_funcgraph struct task_struct *
379 __switch_to(struct task_struct *prev_p, struct task_struct *next_p)
380 {
381         struct thread_struct *prev = &prev_p->thread;
382         struct thread_struct *next = &next_p->thread;
383         int cpu = smp_processor_id();
384         struct tss_struct *tss = &per_cpu(init_tss, cpu);
385         unsigned fsindex, gsindex;
386
387         /* we're going to use this soon, after a few expensive things */
388         if (next_p->fpu_counter > 5)
389                 prefetch(next->xstate);
390
391         /*
392          * Reload esp0, LDT and the page table pointer:
393          */
394         load_sp0(tss, next);
395
396         /*
397          * Switch DS and ES.
398          * This won't pick up thread selector changes, but I guess that is ok.
399          */
400         savesegment(es, prev->es);
401         if (unlikely(next->es | prev->es))
402                 loadsegment(es, next->es);
403
404         savesegment(ds, prev->ds);
405         if (unlikely(next->ds | prev->ds))
406                 loadsegment(ds, next->ds);
407
408
409         /* We must save %fs and %gs before load_TLS() because
410          * %fs and %gs may be cleared by load_TLS().
411          *
412          * (e.g. xen_load_tls())
413          */
414         savesegment(fs, fsindex);
415         savesegment(gs, gsindex);
416
417         load_TLS(next, cpu);
418
419         /*
420          * Leave lazy mode, flushing any hypercalls made here.
421          * This must be done before restoring TLS segments so
422          * the GDT and LDT are properly updated, and must be
423          * done before math_state_restore, so the TS bit is up
424          * to date.
425          */
426         arch_end_context_switch(next_p);
427
428         /*
429          * Switch FS and GS.
430          *
431          * Segment register != 0 always requires a reload.  Also
432          * reload when it has changed.  When prev process used 64bit
433          * base always reload to avoid an information leak.
434          */
435         if (unlikely(fsindex | next->fsindex | prev->fs)) {
436                 loadsegment(fs, next->fsindex);
437                 /*
438                  * Check if the user used a selector != 0; if yes
439                  *  clear 64bit base, since overloaded base is always
440                  *  mapped to the Null selector
441                  */
442                 if (fsindex)
443                         prev->fs = 0;
444         }
445         /* when next process has a 64bit base use it */
446         if (next->fs)
447                 wrmsrl(MSR_FS_BASE, next->fs);
448         prev->fsindex = fsindex;
449
450         if (unlikely(gsindex | next->gsindex | prev->gs)) {
451                 load_gs_index(next->gsindex);
452                 if (gsindex)
453                         prev->gs = 0;
454         }
455         if (next->gs)
456                 wrmsrl(MSR_KERNEL_GS_BASE, next->gs);
457         prev->gsindex = gsindex;
458
459         /* Must be after DS reload */
460         unlazy_fpu(prev_p);
461
462         /*
463          * Switch the PDA and FPU contexts.
464          */
465         prev->usersp = percpu_read(old_rsp);
466         percpu_write(old_rsp, next->usersp);
467         percpu_write(current_task, next_p);
468
469         percpu_write(kernel_stack,
470                   (unsigned long)task_stack_page(next_p) +
471                   THREAD_SIZE - KERNEL_STACK_OFFSET);
472
473         /*
474          * Now maybe reload the debug registers and handle I/O bitmaps
475          */
476         if (unlikely(task_thread_info(next_p)->flags & _TIF_WORK_CTXSW_NEXT ||
477                      task_thread_info(prev_p)->flags & _TIF_WORK_CTXSW_PREV))
478                 __switch_to_xtra(prev_p, next_p, tss);
479
480         /* If the task has used fpu the last 5 timeslices, just do a full
481          * restore of the math state immediately to avoid the trap; the
482          * chances of needing FPU soon are obviously high now
483          *
484          * tsk_used_math() checks prevent calling math_state_restore(),
485          * which can sleep in the case of !tsk_used_math()
486          */
487         if (tsk_used_math(next_p) && next_p->fpu_counter > 5)
488                 math_state_restore();
489         return prev_p;
490 }
491
492 /*
493  * sys_execve() executes a new program.
494  */
495 asmlinkage
496 long sys_execve(char __user *name, char __user * __user *argv,
497                 char __user * __user *envp, struct pt_regs *regs)
498 {
499         long error;
500         char *filename;
501
502         filename = getname(name);
503         error = PTR_ERR(filename);
504         if (IS_ERR(filename))
505                 return error;
506         error = do_execve(filename, argv, envp, regs);
507         putname(filename);
508         return error;
509 }
510
511 void set_personality_64bit(void)
512 {
513         /* inherit personality from parent */
514
515         /* Make sure to be in 64bit mode */
516         clear_thread_flag(TIF_IA32);
517
518         /* TBD: overwrites user setup. Should have two bits.
519            But 64bit processes have always behaved this way,
520            so it's not too bad. The main problem is just that
521            32bit childs are affected again. */
522         current->personality &= ~READ_IMPLIES_EXEC;
523 }
524
525 asmlinkage long
526 sys_clone(unsigned long clone_flags, unsigned long newsp,
527           void __user *parent_tid, void __user *child_tid, struct pt_regs *regs)
528 {
529         if (!newsp)
530                 newsp = regs->sp;
531         return do_fork(clone_flags, newsp, regs, 0, parent_tid, child_tid);
532 }
533
534 unsigned long get_wchan(struct task_struct *p)
535 {
536         unsigned long stack;
537         u64 fp, ip;
538         int count = 0;
539
540         if (!p || p == current || p->state == TASK_RUNNING)
541                 return 0;
542         stack = (unsigned long)task_stack_page(p);
543         if (p->thread.sp < stack || p->thread.sp >= stack+THREAD_SIZE)
544                 return 0;
545         fp = *(u64 *)(p->thread.sp);
546         do {
547                 if (fp < (unsigned long)stack ||
548                     fp >= (unsigned long)stack+THREAD_SIZE)
549                         return 0;
550                 ip = *(u64 *)(fp+8);
551                 if (!in_sched_functions(ip))
552                         return ip;
553                 fp = *(u64 *)fp;
554         } while (count++ < 16);
555         return 0;
556 }
557
558 long do_arch_prctl(struct task_struct *task, int code, unsigned long addr)
559 {
560         int ret = 0;
561         int doit = task == current;
562         int cpu;
563
564         switch (code) {
565         case ARCH_SET_GS:
566                 if (addr >= TASK_SIZE_OF(task))
567                         return -EPERM;
568                 cpu = get_cpu();
569                 /* handle small bases via the GDT because that's faster to
570                    switch. */
571                 if (addr <= 0xffffffff) {
572                         set_32bit_tls(task, GS_TLS, addr);
573                         if (doit) {
574                                 load_TLS(&task->thread, cpu);
575                                 load_gs_index(GS_TLS_SEL);
576                         }
577                         task->thread.gsindex = GS_TLS_SEL;
578                         task->thread.gs = 0;
579                 } else {
580                         task->thread.gsindex = 0;
581                         task->thread.gs = addr;
582                         if (doit) {
583                                 load_gs_index(0);
584                                 ret = checking_wrmsrl(MSR_KERNEL_GS_BASE, addr);
585                         }
586                 }
587                 put_cpu();
588                 break;
589         case ARCH_SET_FS:
590                 /* Not strictly needed for fs, but do it for symmetry
591                    with gs */
592                 if (addr >= TASK_SIZE_OF(task))
593                         return -EPERM;
594                 cpu = get_cpu();
595                 /* handle small bases via the GDT because that's faster to
596                    switch. */
597                 if (addr <= 0xffffffff) {
598                         set_32bit_tls(task, FS_TLS, addr);
599                         if (doit) {
600                                 load_TLS(&task->thread, cpu);
601                                 loadsegment(fs, FS_TLS_SEL);
602                         }
603                         task->thread.fsindex = FS_TLS_SEL;
604                         task->thread.fs = 0;
605                 } else {
606                         task->thread.fsindex = 0;
607                         task->thread.fs = addr;
608                         if (doit) {
609                                 /* set the selector to 0 to not confuse
610                                    __switch_to */
611                                 loadsegment(fs, 0);
612                                 ret = checking_wrmsrl(MSR_FS_BASE, addr);
613                         }
614                 }
615                 put_cpu();
616                 break;
617         case ARCH_GET_FS: {
618                 unsigned long base;
619                 if (task->thread.fsindex == FS_TLS_SEL)
620                         base = read_32bit_tls(task, FS_TLS);
621                 else if (doit)
622                         rdmsrl(MSR_FS_BASE, base);
623                 else
624                         base = task->thread.fs;
625                 ret = put_user(base, (unsigned long __user *)addr);
626                 break;
627         }
628         case ARCH_GET_GS: {
629                 unsigned long base;
630                 unsigned gsindex;
631                 if (task->thread.gsindex == GS_TLS_SEL)
632                         base = read_32bit_tls(task, GS_TLS);
633                 else if (doit) {
634                         savesegment(gs, gsindex);
635                         if (gsindex)
636                                 rdmsrl(MSR_KERNEL_GS_BASE, base);
637                         else
638                                 base = task->thread.gs;
639                 } else
640                         base = task->thread.gs;
641                 ret = put_user(base, (unsigned long __user *)addr);
642                 break;
643         }
644
645         default:
646                 ret = -EINVAL;
647                 break;
648         }
649
650         return ret;
651 }
652
653 long sys_arch_prctl(int code, unsigned long addr)
654 {
655         return do_arch_prctl(current, code, addr);
656 }
657