Complete (almost!) printf fmt support
[lunaix-os.git] / lunaix-os / kernel / mm / vmm.c
1 #include <hal/cpu.h>
2 #include <libc/string.h>
3 #include <lunaix/mm/page.h>
4 #include <lunaix/mm/pmm.h>
5 #include <lunaix/mm/vmm.h>
6 #include <lunaix/spike.h>
7
8 #include <stdbool.h>
9
10 void
11 vmm_init()
12 {
13     // TODO: something here?
14 }
15
16 x86_page_table*
17 vmm_init_pd()
18 {
19     x86_page_table* dir = (x86_page_table*)pmm_alloc_page();
20     for (size_t i = 0; i < PG_MAX_ENTRIES; i++) {
21         dir->entry[i] = PTE_NULL;
22     }
23
24     // 递归映射,方便我们在软件层面进行查表地址转换
25     dir->entry[PG_MAX_ENTRIES - 1] = NEW_L1_ENTRY(T_SELF_REF_PERM, dir);
26
27     return dir;
28 }
29
30 int
31 __vmm_map_internal(uint32_t l1_inx,
32                    uint32_t l2_inx,
33                    uintptr_t pa,
34                    pt_attr attr,
35                    int forced)
36 {
37     x86_page_table* l1pt = (x86_page_table*)L1_BASE_VADDR;
38     x86_page_table* l2pt = (x86_page_table*)L2_VADDR(l1_inx);
39
40     // See if attr make sense
41     assert(attr <= 128);
42
43     if (!l1pt->entry[l1_inx]) {
44         x86_page_table* new_l1pt_pa = pmm_alloc_page();
45
46         // 物理内存已满!
47         if (!new_l1pt_pa) {
48             return 0;
49         }
50
51         l1pt->entry[l1_inx] = NEW_L1_ENTRY(attr, new_l1pt_pa);
52         memset((void*)L2_VADDR(l1_inx), 0, PG_SIZE);
53     }
54
55     if (!forced && l2pt->entry[l2_inx]) {
56         return 0;
57     }
58
59     l2pt->entry[l2_inx] = NEW_L2_ENTRY(attr, pa);
60
61     return 1;
62 }
63
64 void*
65 vmm_map_page(void* va, void* pa, pt_attr tattr)
66 {
67     // 显然,对空指针进行映射没有意义。
68     if (!pa || !va) {
69         return NULL;
70     }
71
72     assert(((uintptr_t)va & 0xFFFU) == 0) assert(((uintptr_t)pa & 0xFFFU) == 0);
73
74     uint32_t l1_index = L1_INDEX(va);
75     uint32_t l2_index = L2_INDEX(va);
76     x86_page_table* l1pt = (x86_page_table*)L1_BASE_VADDR;
77
78     // 在页表与页目录中找到一个可用的空位进行映射(位于va或其附近)
79     x86_pte_t l1pte = l1pt->entry[l1_index];
80     x86_page_table* l2pt = (x86_page_table*)L2_VADDR(l1_index);
81     while (l1pte && l1_index < PG_MAX_ENTRIES) {
82         if (l2_index == PG_MAX_ENTRIES) {
83             l1_index++;
84             l2_index = 0;
85             l1pte = l1pt->entry[l1_index];
86             l2pt = (x86_page_table*)L2_VADDR(l1_index);
87         }
88         // 页表有空位,只需要开辟一个新的 PTE (Level 2)
89         if (l2pt && !l2pt->entry[l2_index]) {
90             l2pt->entry[l2_index] = NEW_L2_ENTRY(tattr, pa);
91             return (void*)V_ADDR(l1_index, l2_index, PG_OFFSET(va));
92         }
93         l2_index++;
94     }
95
96     // 页目录与所有页表已满!
97     if (l1_index > PG_MAX_ENTRIES) {
98         return NULL;
99     }
100
101     if (!__vmm_map_internal(l1_index, l2_index, (uintptr_t)pa, tattr, false)) {
102         return NULL;
103     }
104
105     return (void*)V_ADDR(l1_index, l2_index, PG_OFFSET(va));
106 }
107
108 void*
109 vmm_fmap_page(void* va, void* pa, pt_attr tattr)
110 {
111     if (!pa || !va) {
112         return NULL;
113     }
114
115     assert(((uintptr_t)va & 0xFFFU) == 0) assert(((uintptr_t)pa & 0xFFFU) == 0);
116
117     uint32_t l1_index = L1_INDEX(va);
118     uint32_t l2_index = L2_INDEX(va);
119
120     if (!__vmm_map_internal(l1_index, l2_index, (uintptr_t)pa, tattr, true)) {
121         return NULL;
122     }
123
124     cpu_invplg(va);
125
126     return (void*)V_ADDR(l1_index, l2_index, PG_OFFSET(va));
127 }
128
129 void*
130 vmm_alloc_page(void* vpn, pt_attr tattr)
131 {
132     void* pp = pmm_alloc_page();
133     void* result = vmm_map_page(vpn, pp, tattr);
134     if (!result) {
135         pmm_free_page(pp);
136     }
137     return result;
138 }
139
140 int
141 vmm_alloc_pages(void* va, size_t sz, pt_attr tattr)
142 {
143     assert((uintptr_t)va % PG_SIZE == 0) assert(sz % PG_SIZE == 0);
144
145     void* va_ = va;
146     for (size_t i = 0; i < (sz >> PG_SIZE_BITS); i++, va_ += PG_SIZE) {
147         void* pp = pmm_alloc_page();
148         uint32_t l1_index = L1_INDEX(va_);
149         uint32_t l2_index = L2_INDEX(va_);
150         if (!pp || !__vmm_map_internal(
151                      l1_index, l2_index, (uintptr_t)pp, tattr, false)) {
152             // if one failed, release previous allocated pages.
153             va_ = va;
154             for (size_t j = 0; j < i; j++, va_ += PG_SIZE) {
155                 vmm_unmap_page(va_);
156             }
157
158             return false;
159         }
160     }
161
162     return true;
163 }
164
165 void
166 vmm_unmap_page(void* va)
167 {
168     assert(((uintptr_t)va & 0xFFFU) == 0);
169
170     uint32_t l1_index = L1_INDEX(va);
171     uint32_t l2_index = L2_INDEX(va);
172     x86_page_table* l1pt = (x86_page_table*)L1_BASE_VADDR;
173
174     x86_pte_t l1pte = l1pt->entry[l1_index];
175
176     if (l1pte) {
177         x86_page_table* l2pt = (x86_page_table*)L2_VADDR(l1_index);
178         x86_pte_t l2pte = l2pt->entry[l2_index];
179         if (IS_CACHED(l2pte)) {
180             pmm_free_page((void*)l2pte);
181         }
182         cpu_invplg(va);
183         l2pt->entry[l2_index] = PTE_NULL;
184     }
185 }
186
187 v_mapping
188 vmm_lookup(void* va)
189 {
190     assert(((uintptr_t)va & 0xFFFU) == 0);
191
192     uint32_t l1_index = L1_INDEX(va);
193     uint32_t l2_index = L2_INDEX(va);
194
195     x86_page_table* l1pt = (x86_page_table*)L1_BASE_VADDR;
196     x86_pte_t l1pte = l1pt->entry[l1_index];
197
198     v_mapping mapping = { .flags = 0, .pa = 0, .pn = 0 };
199     if (l1pte) {
200         x86_pte_t l2pte =
201           ((x86_page_table*)L2_VADDR(l1_index))->entry[l2_index];
202         if (l2pte) {
203             mapping.flags = PG_ENTRY_FLAGS(l2pte);
204             mapping.pa = PG_ENTRY_ADDR(l2pte);
205             mapping.pn = mapping.pa >> PG_SIZE_BITS;
206         }
207     }
208
209     return mapping;
210 }
211
212 void*
213 vmm_v2p(void* va)
214 {
215     return (void*)vmm_lookup(va).pa;
216 }