arch/arm/include/asm/mmu_context.h

   1 /*
   2  *  arch/arm/include/asm/mmu_context.h
   3  *
   4  *  Copyright (C) 1996 Russell King.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 as
   8  * published by the Free Software Foundation.
   9  *
  10  *  Changelog:
  11  *   27-06-1996 RMK     Created
  12  */
  13 #ifndef __ASM_ARM_MMU_CONTEXT_H
  14 #define __ASM_ARM_MMU_CONTEXT_H
  15
  16 #include <linux/compiler.h>
  17 #include <linux/sched.h>
  18 #include <asm/cacheflush.h>
  19 #include <asm/cachetype.h>
  20 #include <asm/proc-fns.h>
  21 #include <asm-generic/mm_hooks.h>
  22
  23 void __check_kvm_seq(struct mm_struct *mm);
  24
  25 #ifdef CONFIG_CPU_HAS_ASID
  26
  27 /*
  28  * On ARMv6, we have the following structure in the Context ID:
  29  *
  30  * 31                         7          0
  31  * +-------------------------+-----------+
  32  * |      process ID         |   ASID    |
  33  * +-------------------------+-----------+
  34  * |              context ID             |
  35  * +-------------------------------------+
  36  *
  37  * The ASID is used to tag entries in the CPU caches and TLBs.
  38  * The context ID is used by debuggers and trace logic, and
  39  * should be unique within all running processes.
  40  */
  41 #define ASID_BITS               8
  42 #define ASID_MASK               ((~0) << ASID_BITS)
  43 #define ASID_FIRST_VERSION      (1 << ASID_BITS)
  44
  45 extern unsigned int cpu_last_asid;
  46 #ifdef CONFIG_SMP
  47 DECLARE_PER_CPU(struct mm_struct *, current_mm);
  48 #endif
  49
  50 void __init_new_context(struct task_struct *tsk, struct mm_struct *mm);
  51 void __new_context(struct mm_struct *mm);
  52 void cpu_set_reserved_ttbr0(void);
  53
  54 static inline void switch_new_context(struct mm_struct *mm)
  55 {
  56         unsigned long flags;
  57
  58         __new_context(mm);
  59
  60         local_irq_save(flags);
  61         cpu_switch_mm(mm->pgd, mm);
  62         local_irq_restore(flags);
  63 }
  64
  65 static inline void check_and_switch_context(struct mm_struct *mm,
  66                                             struct task_struct *tsk)
  67 {
  68         if (unlikely(mm->context.kvm_seq != init_mm.context.kvm_seq))
  69                 __check_kvm_seq(mm);
  70
  71         /*
  72          * Required during context switch to avoid speculative page table
  73          * walking with the wrong TTBR.
  74          */
  75         cpu_set_reserved_ttbr0();
  76
  77         if (!((mm->context.id ^ cpu_last_asid) >> ASID_BITS))
  78                 /*
  79                  * The ASID is from the current generation, just switch to the
  80                  * new pgd. This condition is only true for calls from
  81                  * context_switch() and interrupts are already disabled.
  82                  */
  83                 cpu_switch_mm(mm->pgd, mm);
  84         else if (irqs_disabled())
  85                 /*
  86                  * Defer the new ASID allocation until after the context
  87                  * switch critical region since __new_context() cannot be
  88                  * called with interrupts disabled (it sends IPIs).
  89                  */
  90                 set_ti_thread_flag(task_thread_info(tsk), TIF_SWITCH_MM);
  91         else
  92                 /*
  93                  * That is a direct call to switch_mm() or activate_mm() with
  94                  * interrupts enabled and a new context.
  95                  */
  96                 switch_new_context(mm);
  97 }
  98
  99 #define init_new_context(tsk,mm)        (__init_new_context(tsk,mm),0)
 100
 101 #define finish_arch_post_lock_switch \
 102         finish_arch_post_lock_switch
 103 static inline void finish_arch_post_lock_switch(void)
 104 {
 105         if (test_and_clear_thread_flag(TIF_SWITCH_MM))
 106                 switch_new_context(current->mm);
 107 }
 108
 109 #else   /* !CONFIG_CPU_HAS_ASID */
 110
 111 static inline void check_and_switch_context(struct mm_struct *mm,
 112                                             struct task_struct *tsk)
 113 {
 114 #ifdef CONFIG_MMU
 115         if (unlikely(mm->context.kvm_seq != init_mm.context.kvm_seq))
 116                 __check_kvm_seq(mm);
 117         cpu_switch_mm(mm->pgd, mm);
 118 #endif
 119 }
 120
 121 #define init_new_context(tsk,mm)        0
 122
 123 #define finish_arch_post_lock_switch()  do { } while (0)
 124
 125 #endif  /* CONFIG_CPU_HAS_ASID */
 126
 127 #define destroy_context(mm)             do { } while(0)
 128
 129 /*
 130  * This is called when "tsk" is about to enter lazy TLB mode.
 131  *
 132  * mm:  describes the currently active mm context
 133  * tsk: task which is entering lazy tlb
 134  * cpu: cpu number which is entering lazy tlb
 135  *
 136  * tsk->mm will be NULL
 137  */
 138 static inline void
 139 enter_lazy_tlb(struct mm_struct *mm, struct task_struct *tsk)
 140 {
 141 }
 142
 143 /*
 144  * This is the actual mm switch as far as the scheduler
 145  * is concerned.  No registers are touched.  We avoid
 146  * calling the CPU specific function when the mm hasn't
 147  * actually changed.
 148  */
 149 static inline void
 150 switch_mm(struct mm_struct *prev, struct mm_struct *next,
 151           struct task_struct *tsk)
 152 {
 153 #ifdef CONFIG_MMU
 154         unsigned int cpu = smp_processor_id();
 155
 156 #ifdef CONFIG_SMP
 157         /* check for possible thread migration */
 158         if (!cpumask_empty(mm_cpumask(next)) &&
 159             !cpumask_test_cpu(cpu, mm_cpumask(next)))
 160                 __flush_icache_all();
 161 #endif
 162         if (!cpumask_test_and_set_cpu(cpu, mm_cpumask(next)) || prev != next) {
 163 #ifdef CONFIG_SMP
 164                 struct mm_struct **crt_mm = &per_cpu(current_mm, cpu);
 165                 *crt_mm = next;
 166 #endif
 167                 check_and_switch_context(next, tsk);
 168                 if (cache_is_vivt())
 169                         cpumask_clear_cpu(cpu, mm_cpumask(prev));
 170         }
 171 #endif
 172 }
 173
 174 #define deactivate_mm(tsk,mm)   do { } while (0)
 175 #define activate_mm(prev,next)  switch_mm(prev, next, NULL)
 176
 177 #endif