lunaix-os/kernel/mm/vmm.c

   1 #include <hal/cpu.h>
   2 #include <klibc/string.h>
   3 #include <lunaix/mm/page.h>
   4 #include <lunaix/mm/pmm.h>
   5 #include <lunaix/mm/vmm.h>
   6 #include <lunaix/spike.h>
   7
   8 #include <stdbool.h>
   9
  10 void
  11 vmm_init()
  12 {
  13     // TODO: something here?
  14 }
  15
  16 x86_page_table*
  17 vmm_init_pd()
  18 {
  19     x86_page_table* dir = (x86_page_table*)pmm_alloc_page();
  20     for (size_t i = 0; i < PG_MAX_ENTRIES; i++) {
  21         dir->entry[i] = PTE_NULL;
  22     }
  23
  24     // 递归映射，方便我们在软件层面进行查表地址转换
  25     dir->entry[PG_MAX_ENTRIES - 1] = NEW_L1_ENTRY(T_SELF_REF_PERM, dir);
  26
  27     return dir;
  28 }
  29
  30 int
  31 __vmm_map_internal(uint32_t l1_inx,
  32                    uint32_t l2_inx,
  33                    uintptr_t pa,
  34                    pt_attr attr,
  35                    int forced)
  36 {
  37     x86_page_table* l1pt = (x86_page_table*)L1_BASE_VADDR;
  38     x86_page_table* l2pt = (x86_page_table*)L2_VADDR(l1_inx);
  39
  40     // See if attr make sense
  41     assert(attr <= 128);
  42
  43     if (!l1pt->entry[l1_inx]) {
  44         x86_page_table* new_l1pt_pa = pmm_alloc_page();
  45
  46         // 物理内存已满！
  47         if (!new_l1pt_pa) {
  48             return 0;
  49         }
  50
  51         l1pt->entry[l1_inx] = NEW_L1_ENTRY(attr, new_l1pt_pa);
  52         memset((void*)L2_VADDR(l1_inx), 0, PG_SIZE);
  53     }
  54
  55     x86_pte_t l2pte = l2pt->entry[l2_inx];
  56     if (l2pte) {
  57         if (!forced) {
  58             return 0;
  59         }
  60         if (HAS_FLAGS(l2pte, PG_PRESENT)) {
  61             assert_msg(pmm_free_page(GET_PG_ADDR(l2pte)), "fail to release physical page");
  62         }
  63     }
  64
  65     l2pt->entry[l2_inx] = NEW_L2_ENTRY(attr, pa);
  66
  67     return 1;
  68 }
  69
  70 void*
  71 vmm_map_page(void* va, void* pa, pt_attr tattr)
  72 {
  73     // 显然，对空指针进行映射没有意义。
  74     if (!pa || !va) {
  75         return NULL;
  76     }
  77
  78     assert(((uintptr_t)va & 0xFFFU) == 0) assert(((uintptr_t)pa & 0xFFFU) == 0);
  79
  80     uint32_t l1_index = L1_INDEX(va);
  81     uint32_t l2_index = L2_INDEX(va);
  82     x86_page_table* l1pt = (x86_page_table*)L1_BASE_VADDR;
  83
  84     // 在页表与页目录中找到一个可用的空位进行映射（位于va或其附近）
  85     x86_pte_t l1pte = l1pt->entry[l1_index];
  86     x86_page_table* l2pt = (x86_page_table*)L2_VADDR(l1_index);
  87     while (l1pte && l1_index < PG_MAX_ENTRIES) {
  88         if (l2_index == PG_MAX_ENTRIES) {
  89             l1_index++;
  90             l2_index = 0;
  91             l1pte = l1pt->entry[l1_index];
  92             l2pt = (x86_page_table*)L2_VADDR(l1_index);
  93         }
  94         // 页表有空位，只需要开辟一个新的 PTE (Level 2)
  95         if (l2pt && !l2pt->entry[l2_index]) {
  96             l2pt->entry[l2_index] = NEW_L2_ENTRY(tattr, pa);
  97             return (void*)V_ADDR(l1_index, l2_index, PG_OFFSET(va));
  98         }
  99         l2_index++;
 100     }
 101
 102     // 页目录与所有页表已满！
 103     if (l1_index > PG_MAX_ENTRIES) {
 104         return NULL;
 105     }
 106
 107     if (!__vmm_map_internal(l1_index, l2_index, (uintptr_t)pa, tattr, false)) {
 108         return NULL;
 109     }
 110
 111     return (void*)V_ADDR(l1_index, l2_index, PG_OFFSET(va));
 112 }
 113
 114 void*
 115 vmm_fmap_page(void* va, void* pa, pt_attr tattr)
 116 {
 117     if (!pa || !va) {
 118         return NULL;
 119     }
 120
 121     assert(((uintptr_t)va & 0xFFFU) == 0) assert(((uintptr_t)pa & 0xFFFU) == 0);
 122
 123     uint32_t l1_index = L1_INDEX(va);
 124     uint32_t l2_index = L2_INDEX(va);
 125
 126     if (!__vmm_map_internal(l1_index, l2_index, (uintptr_t)pa, tattr, true)) {
 127         return NULL;
 128     }
 129
 130     cpu_invplg(va);
 131
 132     return (void*)V_ADDR(l1_index, l2_index, PG_OFFSET(va));
 133 }
 134
 135 void*
 136 vmm_alloc_page(void* vpn, pt_attr tattr)
 137 {
 138     void* pp = pmm_alloc_page();
 139     void* result = vmm_map_page(vpn, pp, tattr);
 140     if (!result) {
 141         pmm_free_page(pp);
 142     }
 143     return result;
 144 }
 145
 146 int
 147 vmm_alloc_pages(void* va, size_t sz, pt_attr tattr)
 148 {
 149     assert((uintptr_t)va % PG_SIZE == 0) assert(sz % PG_SIZE == 0);
 150
 151     void* va_ = va;
 152     for (size_t i = 0; i < (sz >> PG_SIZE_BITS); i++, va_ += PG_SIZE) {
 153         void* pp = pmm_alloc_page();
 154         uint32_t l1_index = L1_INDEX(va_);
 155         uint32_t l2_index = L2_INDEX(va_);
 156         if (!pp || !__vmm_map_internal(
 157                      l1_index, l2_index, (uintptr_t)pp, tattr, false)) {
 158             // if one failed, release previous allocated pages.
 159             va_ = va;
 160             for (size_t j = 0; j < i; j++, va_ += PG_SIZE) {
 161                 vmm_unmap_page(va_);
 162             }
 163
 164             return false;
 165         }
 166     }
 167
 168     return true;
 169 }
 170
 171 void
 172 vmm_set_mapping(void* va, void* pa, pt_attr attr) {
 173     assert(((uintptr_t)va & 0xFFFU) == 0);
 174
 175     uint32_t l1_index = L1_INDEX(va);
 176     uint32_t l2_index = L2_INDEX(va);
 177
 178     // prevent map of recursive mapping region
 179     if (l1_index == 1023) {
 180         return;
 181     }
 182
 183     __vmm_map_internal(l1_index, l2_index, (uintptr_t)pa, attr, false);
 184 }
 185
 186 void
 187 vmm_unmap_page(void* va)
 188 {
 189     assert(((uintptr_t)va & 0xFFFU) == 0);
 190
 191     uint32_t l1_index = L1_INDEX(va);
 192     uint32_t l2_index = L2_INDEX(va);
 193
 194     // prevent unmap of recursive mapping region
 195     if (l1_index == 1023) {
 196         return;
 197     }
 198
 199     x86_page_table* l1pt = (x86_page_table*)L1_BASE_VADDR;
 200
 201     x86_pte_t l1pte = l1pt->entry[l1_index];
 202
 203     if (l1pte) {
 204         x86_page_table* l2pt = (x86_page_table*)L2_VADDR(l1_index);
 205         x86_pte_t l2pte = l2pt->entry[l2_index];
 206         if (IS_CACHED(l2pte)) {
 207             pmm_free_page((void*)l2pte);
 208         }
 209         cpu_invplg(va);
 210         l2pt->entry[l2_index] = PTE_NULL;
 211     }
 212 }
 213
 214 v_mapping
 215 vmm_lookup(void* va)
 216 {
 217     assert(((uintptr_t)va & 0xFFFU) == 0);
 218
 219     uint32_t l1_index = L1_INDEX(va);
 220     uint32_t l2_index = L2_INDEX(va);
 221
 222     x86_page_table* l1pt = (x86_page_table*)L1_BASE_VADDR;
 223     x86_pte_t l1pte = l1pt->entry[l1_index];
 224
 225     v_mapping mapping = { .flags = 0, .pa = 0, .pn = 0 };
 226     if (l1pte) {
 227         x86_pte_t l2pte =
 228           ((x86_page_table*)L2_VADDR(l1_index))->entry[l2_index];
 229         if (l2pte) {
 230             mapping.flags = PG_ENTRY_FLAGS(l2pte);
 231             mapping.pa = PG_ENTRY_ADDR(l2pte);
 232             mapping.pn = mapping.pa >> PG_SIZE_BITS;
 233         }
 234     }
 235
 236     return mapping;
 237 }
 238
 239 void*
 240 vmm_v2p(void* va)
 241 {
 242     return (void*)vmm_lookup(va).pa;
 243 }