Whamcloud - gitweb
LUDOC-249 filefrag: update to match current output
[doc/manual.git] / LustreMaintenance.xml
1 <?xml version='1.0' encoding='UTF-8'?><chapter xmlns="http://docbook.org/ns/docbook" xmlns:xl="http://www.w3.org/1999/xlink" version="5.0" xml:lang="en-US" xml:id="lustremaintenance">
2   <title xml:id="lustremaintenance.title">Lustre Maintenance</title>
3   <para>Once you have the Lustre file system up and running, you can use the procedures in this section to perform these basic Lustre maintenance tasks:</para>
4   <itemizedlist>
5     <listitem>
6       <para><xref linkend="dbdoclet.50438199_42877"/></para>
7     </listitem>
8     <listitem>
9       <para><xref linkend="dbdoclet.50438199_15240"/></para>
10     </listitem>
11     <listitem>
12       <para><xref linkend="dbdoclet.50438199_26070"/></para>
13     </listitem>
14     <listitem>
15       <para><xref linkend="dbdoclet.50438199_54623"/></para>
16     </listitem>
17     <listitem>
18       <para><xref linkend="dbdoclet.50438199_31353"/></para>
19     </listitem>
20     <listitem>
21       <para><xref linkend="dbdoclet.addingamdt"/></para>
22     </listitem>
23     <listitem>
24       <para><xref linkend="dbdoclet.50438199_22527"/></para>
25     </listitem>
26     <listitem>
27       <para><xref linkend="dbdoclet.50438199_14978"/></para>
28     </listitem>
29     <listitem>
30       <para><xref linkend="dbdoclet.rmremotedir"/></para>
31     </listitem>
32     <listitem>
33       <para><xref linkend="dbdoclet.inactivemdt"/>\</para>
34     </listitem>
35     <listitem>
36       <para><xref xmlns:xlink="http://www.w3.org/1999/xlink" linkend="section_k3l_4gt_tl"/></para>
37     </listitem>
38     <listitem>
39       <para><xref xmlns:xlink="http://www.w3.org/1999/xlink" linkend="section_ydg_pgt_tl"/></para>
40     </listitem>
41     <listitem>
42       <para><xref xmlns:xlink="http://www.w3.org/1999/xlink" linkend="section_kzs_pgt_tl"/></para>
43     </listitem>
44     <listitem>
45       <para><xref xmlns:xlink="http://www.w3.org/1999/xlink" linkend="section_ucf_qgt_tl"/></para>
46     </listitem>
47     <listitem>
48       <para><xref linkend="dbdoclet.50438199_77819"/></para>
49     </listitem>
50     <listitem>
51       <para><xref linkend="dbdoclet.50438199_12607"/></para>
52     </listitem>
53     <listitem>
54       <para><xref linkend="dbdoclet.50438199_62333"/></para>
55     </listitem>
56     <listitem>
57       <para><xref linkend="dbdoclet.50438199_62545"/></para>
58     </listitem>
59   </itemizedlist>
60   <section xml:id="dbdoclet.50438199_42877">
61       <title>
62           <indexterm><primary>maintenance</primary></indexterm>
63           <indexterm><primary>maintenance</primary><secondary>inactive OSTs</secondary></indexterm>
64           Working with Inactive OSTs</title>
65     <para>To mount a client or an MDT with one or more inactive OSTs, run commands similar to this:</para>
66     <screen>client# mount -o exclude=testfs-OST0000 -t lustre \
67            uml1:/testfs /mnt/testfs
68             client# cat /proc/fs/lustre/lov/testfs-clilov-*/target_obd</screen>
69     <para>To activate an inactive OST on a live client or MDT, use the <literal>lctl activate</literal> command on the OSC device. For example:</para>
70     <screen>lctl --device 7 activate</screen>
71     <note>
72       <para>A colon-separated list can also be specified. For example, <literal>exclude=testfs-OST0000:testfs-OST0001</literal>.</para>
73     </note>
74     </section>
75     <section xml:id="dbdoclet.50438199_15240">
76       <title><indexterm><primary>maintenance</primary><secondary>finding nodes</secondary></indexterm>
77 Finding Nodes in the Lustre File System</title>
78       <para>There may be situations in which you need to find all nodes in your Lustre file system or get the names of all OSTs.</para>
79       <para>To get a list of all Lustre nodes, run this command on the MGS:</para>
80       <screen># cat /proc/fs/lustre/mgs/MGS/live/*</screen>
81       <note>
82         <para>This command must be run on the MGS.
83                 </para>
84       </note>
85       <para>In this example, file system <literal>testfs</literal> has three nodes,
86         <literal>testfs-MDT0000</literal>, <literal>testfs-OST0000</literal>, and
87         <literal>testfs-OST0001</literal>.</para>
88       <screen>cfs21:/tmp# cat /proc/fs/lustre/mgs/MGS/live/* 
89                 fsname: testfs 
90                 flags: 0x0     gen: 26 
91                 testfs-MDT0000 
92                 testfs-OST0000 
93                 testfs-OST0001 </screen>
94       <para>To get the names of all OSTs, run this command on the MDS:</para>
95       <screen># cat /proc/fs/lustre/lov/<replaceable>fsname</replaceable>-mdtlov/target_obd </screen>
96       <note>
97         <para>This command must be run on the MDS.
98                 </para>
99       </note>
100       <para>In this example, there are two OSTs, testfs-OST0000 and testfs-OST0001, which are both
101       active.</para>
102       <screen>cfs21:/tmp# cat /proc/fs/lustre/lov/testfs-mdtlov/target_obd 
103 0: testfs-OST0000_UUID ACTIVE 
104 1: testfs-OST0001_UUID ACTIVE </screen>
105     </section>
106     <section xml:id="dbdoclet.50438199_26070">
107       <title><indexterm><primary>maintenance</primary><secondary>mounting a server</secondary></indexterm>
108 Mounting a Server Without Lustre Service</title>
109       <para>If you are using a combined MGS/MDT, but you only want to start the MGS and not the MDT, run this command:</para>
110       <screen>mount -t lustre <replaceable>/dev/mdt_partition</replaceable> -o nosvc <replaceable>/mount_point</replaceable></screen>
111       <para>The <literal><replaceable>mdt_partition</replaceable></literal> variable is the combined MGS/MDT block device.</para>
112       <para>In this example, the combined MGS/MDT is <literal>testfs-MDT0000</literal> and the mount point is <literal>/mnt/test/mdt</literal>.</para>
113       <screen>$ mount -t lustre -L testfs-MDT0000 -o nosvc /mnt/test/mdt</screen>
114     </section>
115     <section xml:id="dbdoclet.50438199_54623">
116       <title><indexterm><primary>maintenance</primary><secondary>regenerating config logs</secondary></indexterm>
117 Regenerating Lustre Configuration Logs</title>
118       <para>If the Lustre file system configuration logs are in a state where the file system cannot
119       be started, use the <literal>writeconf</literal> command to erase them. After the
120         <literal>writeconf</literal> command is run and the servers restart, the configuration logs
121       are re-generated and stored on the MGS (as in a new file system).</para>
122       <para>You should only use the <literal>writeconf</literal> command if:</para>
123       <itemizedlist>
124         <listitem>
125           <para>The configuration logs are in a state where the file system cannot start</para>
126         </listitem>
127         <listitem>
128           <para>A server NID is being changed</para>
129         </listitem>
130       </itemizedlist>
131       <para>The <literal>writeconf</literal> command is destructive to some configuration items (i.e., OST pools information and items set via <literal>conf_param</literal>), and should be used with caution. To avoid problems:</para>
132       <itemizedlist>
133         <listitem>
134           <para>Shut down the file system before running the <literal>writeconf</literal> command</para>
135         </listitem>
136         <listitem>
137           <para>Run the <literal>writeconf</literal> command on all servers (MDT first, then OSTs)</para>
138         </listitem>
139         <listitem>
140           <para>Start the file system in this order:</para>
141           <itemizedlist>
142             <listitem>
143               <para>MGS (or the combined MGS/MDT)</para>
144             </listitem>
145             <listitem>
146               <para>MDT</para>
147             </listitem>
148             <listitem>
149               <para>OSTs</para>
150             </listitem>
151             <listitem>
152               <para>Lustre clients</para>
153             </listitem>
154           </itemizedlist>
155         </listitem>
156       </itemizedlist>
157       <caution>
158         <para>The OST pools feature enables a group of OSTs to be named for file striping purposes. If you use OST pools, be aware that running the <literal>writeconf</literal> command erases <emphasis role="bold">all</emphasis> pools information (as well as any other parameters set via <literal>lctl conf_param</literal>). We recommend that the pools definitions (and <literal>conf_param</literal> settings) be executed via a script, so they can be reproduced easily after a <literal>writeconf</literal> is performed.</para>
159       </caution>
160       <para>To regenerate Lustre file system configuration logs:</para>
161       <orderedlist>
162         <listitem>
163           <para>Shut down the file system in this order.</para>
164           <orderedlist>
165             <listitem>
166               <para>Unmount the clients.</para>
167             </listitem>
168             <listitem>
169               <para>Unmount the MDT.</para>
170             </listitem>
171             <listitem>
172               <para>Unmount all OSTs.</para>
173             </listitem>
174           </orderedlist>
175         </listitem>
176         <listitem>
177           <para>Make sure the the MDT and OST devices are available.</para>
178         </listitem>
179         <listitem>
180           <para>Run the <literal>writeconf</literal> command on all servers.</para>
181           <para>Run writeconf on the MDT first, and then the OSTs.</para>
182           <orderedlist>
183             <listitem>
184               <para>On the MDT, run:</para>
185               <screen>mdt# tunefs.lustre --writeconf <replaceable>/dev/mdt_device</replaceable></screen>
186             </listitem>
187             <listitem>
188               <para>
189               On each OST, run:
190               
191           <screen>ost# tunefs.lustre --writeconf <replaceable>/dev/ost_device</replaceable></screen>
192           </para>
193             </listitem>
194           </orderedlist>
195         </listitem>
196         <listitem>
197           <para>Restart the file system in this order.</para>
198           <orderedlist>
199             <listitem>
200               <para>Mount the MGS (or the combined MGS/MDT).</para>
201             </listitem>
202             <listitem>
203               <para>Mount the MDT.</para>
204             </listitem>
205             <listitem>
206               <para>Mount the OSTs.</para>
207             </listitem>
208             <listitem>
209               <para>Mount the clients.</para>
210             </listitem>
211           </orderedlist>
212         </listitem>
213       </orderedlist>
214       <para>After the <literal>writeconf</literal> command is run, the configuration logs are re-generated as servers restart.</para>
215     </section>
216     <section xml:id="dbdoclet.50438199_31353">
217       <title><indexterm><primary>maintenance</primary><secondary>changing a NID</secondary></indexterm>
218 Changing a Server NID</title>
219       <para>In Lustre software release 2.3 or earlier, the <literal>tunefs.lustre
220         --writeconf</literal> command is used to rewrite all of the configuration files.</para>
221       <para condition="l24">If you need to change the NID on the MDT or OST, a new
222         <literal>replace_nids</literal> command was added in Lustre software release 2.4 to simplify
223       this process. The <literal>replace_nids</literal> command differs from <literal>tunefs.lustre
224         --writeconf</literal> in that it does not erase the entire configuration log, precluding the
225       need the need to execute the <literal>writeconf</literal> command on all servers and
226       re-specify all permanent parameter settings. However, the <literal>writeconf</literal> command
227       can still be used if desired.</para>
228       <para>Change a server NID in these situations:</para>
229       <itemizedlist>
230         <listitem>
231           <para>New server hardware is added to the file system, and the MDS or an OSS is being moved to the new machine.</para>
232         </listitem>
233         <listitem>
234           <para>New network card is installed in the server.</para>
235         </listitem>
236         <listitem>
237           <para>You want to reassign IP addresses.</para>
238         </listitem>
239       </itemizedlist>
240       <para>To change a server NID:</para>
241       <orderedlist>
242         <listitem>
243                 <para>Update the LNET configuration in the <literal>/etc/modprobe.conf</literal> file so the list of server NIDs is correct. Use <literal>lctl list_nids</literal> to view the list of server NIDS.</para>
244           <para>The <literal>lctl list_nids</literal> command indicates which network(s) are
245           configured to work with the Lustre file system.</para>
246         </listitem>
247         <listitem>
248           <para>Shut down the file system in this order:</para>
249           <orderedlist>
250             <listitem>
251               <para>Unmount the clients.</para>
252             </listitem>
253             <listitem>
254               <para>Unmount the MDT.</para>
255             </listitem>
256             <listitem>
257               <para>Unmount all OSTs.</para>
258             </listitem>
259           </orderedlist>
260         </listitem>
261         <listitem>
262           <para>If the MGS and MDS share a partition, start the MGS only:</para>
263           <screen>mount -t lustre <replaceable>MDT partition</replaceable> -o nosvc <replaceable>mount_point</replaceable></screen>
264         </listitem>
265         <listitem>
266           <para>Run the <literal>replace_nids</literal> command on the MGS:</para>
267           <screen>lctl replace_nids <replaceable>devicename</replaceable> <replaceable>nid1</replaceable>[,nid2,nid3 ...]</screen>
268           <para>where <replaceable>devicename</replaceable> is the Lustre target name, e.g.
269             <literal>testfs-OST0013</literal></para>
270         </listitem>
271         <listitem>
272           <para>If the MGS and MDS share a partition, stop the MGS:</para>
273           <screen>umount <replaceable>mount_point</replaceable></screen>
274         </listitem>
275       </orderedlist>
276       <note><para>The <literal>replace_nids</literal> command also cleans all old, invalidated records out of the configuration log, while preserving all other current settings.</para></note> 
277       <note><para>The previous configuration log is backed up on the MGS disk with the suffix <literal>'.bak'</literal>.</para></note>
278     </section>
279     <section xml:id="dbdoclet.addingamdt" condition='l24'>
280       <title><indexterm>
281         <primary>maintenance</primary>
282         <secondary>adding an MDT</secondary>
283       </indexterm>Adding a New MDT to a Lustre File System</title>
284         <para>Additional MDTs can be added to serve one or more remote sub-directories within the
285       file system. It is possible to have multiple remote sub-directories reference the same MDT.
286       However, the root directory will always be located on MDT0. To add a new MDT into the file
287       system:</para>
288       <orderedlist>
289         <listitem>
290                         <para>Discover the maximum MDT index. Each MDTs must have unique index.</para>
291                 <screen>
292 client$ lctl dl | grep mdc
293 36 UP mdc testfs-MDT0000-mdc-ffff88004edf3c00 4c8be054-144f-9359-b063-8477566eb84e 5
294 37 UP mdc testfs-MDT0001-mdc-ffff88004edf3c00 4c8be054-144f-9359-b063-8477566eb84e 5
295 38 UP mdc testfs-MDT0002-mdc-ffff88004edf3c00 4c8be054-144f-9359-b063-8477566eb84e 5
296 39 UP mdc testfs-MDT0003-mdc-ffff88004edf3c00 4c8be054-144f-9359-b063-8477566eb84e 5
297                 </screen>
298         </listitem>
299         <listitem>
300                         <para>Add the new block device as a new MDT at the next available index. In this example, the next available index is 4.</para>
301                 <screen>
302 mds# mkfs.lustre --reformat --fsname=<replaceable>filesystem_name</replaceable> --mdt --mgsnode=<replaceable>mgsnode</replaceable> --index 4 <replaceable>/dev/mdt4_device</replaceable>
303                 </screen>
304         </listitem>
305         <listitem>
306                         <para>Mount the MDTs.</para>
307                 <screen>
308 mds# mount –t lustre <replaceable>/dev/mdt4_blockdevice</replaceable> /mnt/mdt4
309                 </screen>
310         </listitem>
311       </orderedlist>
312         </section>
313     <section xml:id="dbdoclet.50438199_22527">
314       <title><indexterm><primary>maintenance</primary><secondary>adding a OST</secondary></indexterm>
315 Adding a New OST to a Lustre File System</title>
316       <para>To add an OST to existing Lustre file system:</para>
317       <orderedlist>
318         <listitem>
319           <para> Add a new OST by passing on the following commands, run:</para>
320           <screen>oss# mkfs.lustre --fsname=spfs --mgsnode=mds16@tcp0 --ost --index=12 /dev/sda
321 oss# mkdir -p /mnt/test/ost12
322 oss# mount -t lustre /dev/sda /mnt/test/ost12</screen>
323         </listitem>
324         <listitem>
325           <para> Migrate the data (possibly).</para>
326           <para>The file system is quite unbalanced when new empty OSTs are added. New file creations are automatically balanced. If this is a scratch file system or files are pruned at a regular interval, then no further work may be needed.</para>
327           <para>New files being created will preferentially be placed on the empty OST. As old files are deleted, they will release space on the old OST.</para>
328           <para>Files existing prior to the expansion can optionally be rebalanced with an in-place copy, which can be done with a simple script. The basic method is to copy existing files to a temporary file, then move the temp file over the old one. This should not be attempted with files which are currently being written to by users or applications. This operation redistributes the stripes over the entire set of OSTs.</para>
329           <para>For example, to rebalance all files within <literal>/mnt/lustre/dir</literal>, enter:</para>
330           <screen>client# lfs_migrate /mnt/lustre/file</screen>
331           <para>To migrate files within the <literal>/test</literal> file system on
332             <literal>OST0004</literal> that are larger than 4GB in size, enter:</para>
333           <screen>client# lfs find /test -obd test-OST0004 -size +4G | lfs_migrate -y</screen>
334           <para>See <xref linkend="dbdoclet.50438206_42260"/>  for more details.</para>
335         </listitem>
336       </orderedlist>
337     </section>
338     <section xml:id="dbdoclet.50438199_14978">
339       <title><indexterm><primary>maintenance</primary><secondary>restoring a OST</secondary></indexterm>
340       <indexterm><primary>maintenance</primary><secondary>removing a OST</secondary></indexterm>
341 Removing and Restoring OSTs</title>
342       <para>OSTs can be removed from and restored to a Lustre file system. Removing a OST means the
343       OST is <emphasis role="italic">deactivated</emphasis> in the file system, not permanently
344       removed.</para>
345                 <note><para>A removed OST still appears in the file system; do not create a new OST with the same name.</para></note>
346       <para>You may want to remove (deactivate) an OST and prevent new files from being written to it in several situations:</para>
347       <itemizedlist>
348         <listitem>
349           <para>Hard drive has failed and a RAID resync/rebuild is underway</para>
350         </listitem>
351         <listitem>
352           <para>OST is nearing its space capacity</para>
353         </listitem>
354         <listitem>
355                   <para>OST storage has failed permanently</para>
356             </listitem>
357       </itemizedlist>
358       <section condition="l24" xml:id="dbdoclet.rmremotedir">
359       <title><indexterm><primary>maintenance</primary><secondary>removing a MDT</secondary></indexterm>Removing a MDT from the File System</title>
360         <para>If the MDT is permanently inaccessible, <literal>lfs rmdir {directory}</literal> can be used to delete the directory entry. A normal <literal>rmdir</literal> will report an IO error due to the remote MDT being inactive. After the remote directory has been removed, the administrator should mark the MDT as permanently inactive with:</para>
361 <screen>lctl conf_param {MDT name}.mdc.active=0
362 </screen>
363 <para>A user can identify the location of a remote sub-directory using the <literal>lfs</literal> utility. For example:</para>
364 <screen>client$ lfs getstripe -M /mnt/lustre/remote_dir1
365 1
366 client$ mkdir /mnt/lustre/local_dir0
367 client$ lfs getstripe -M /mnt/lustre/local_dir0
368 0
369 </screen>
370         <para>The <literal>getstripe -M</literal> parameters return the index of the MDT that is serving the given directory.</para>
371           </section>
372           <section xml:id="dbdoclet.inactivemdt" condition='l24'>
373       <title>
374           <indexterm><primary>maintenance</primary></indexterm>
375           <indexterm><primary>maintenance</primary><secondary>inactive MDTs</secondary></indexterm>Working with Inactive MDTs</title>
376     <para>Files located on or below an inactive MDT are inaccessible until the MDT is activated again. Clients accessing an inactive MDT will receive an EIO error.</para></section>
377       <section remap="h3" xml:id="section_k3l_4gt_tl">
378       <title><indexterm>
379           <primary>maintenance</primary>
380           <secondary>removing a OST</secondary>
381         </indexterm> Removing an OST from the File System</title>
382       <para>When removing an OST, remember that the MDT does not communicate directly with OSTs.
383         Rather, each OST has a corresponding OSC which communicates with the MDT. It is necessary to
384         determine the device number of the OSC that corresponds to the OST. Then, you use this
385         device number to deactivate the OSC on the MDT.</para>
386       <para>To remove an OST from the file system:</para>
387       <orderedlist>
388         <listitem>
389           <para>For the OST to be removed, determine the device number of the corresponding OSC on
390             the MDT.</para>
391           <orderedlist>
392             <listitem>
393               <para>List all OSCs on the node, along with their device numbers. Run:</para>
394               <screen>lctl dl | grep osc</screen>
395               <para>For example: <literal>lctl dl | grep</literal></para>
396               <screen>11 UP osc testfs-OST-0000-osc-cac94211 4ea5b30f-6a8e-55a0-7519-2f20318ebdb4 5
397 12 UP osc testfs-OST-0001-osc-cac94211 4ea5b30f-6a8e-55a0-7519-2f20318ebdb4 5
398 13 IN osc testfs-OST-0000-osc testfs-MDT0000-mdtlov_UUID 5
399 14 UP osc testfs-OST-0001-osc testfs-MDT0000-mdtlov_UUID 5</screen>
400             </listitem>
401             <listitem>
402               <para>Determine the device number of the OSC that corresponds to the OST to be
403                 removed.</para>
404             </listitem>
405           </orderedlist>
406         </listitem>
407         <listitem>
408           <para>Temporarily deactivate the OSC on the MDT. On the MDT, run: </para>
409           <screen>mds# lctl --device <replaceable>lustre_devno</replaceable> deactivate</screen>
410           <para>For example, based on the command output in Step 1, to deactivate device 13 (the
411             MDT’s OSC for <literal>OST-0000</literal>), the command would be: </para>
412           <screen>mds# lctl --device 13 deactivate</screen>
413           <para>This marks the OST as inactive on the MDS, so no new objects are assigned to the
414             OST. This does not prevent use of existing objects for reads or writes. </para>
415           <note>
416             <para>Do not deactivate the OST on the clients. Do so causes errors (EIOs), and the copy
417               out to fail. </para>
418           </note>
419           <caution>
420             <para>Do not use <literal>lctl conf_param</literal> to deactivate the OST. It
421               permanently sets a parameter in the file system configuration.</para>
422           </caution>
423         </listitem>
424         <listitem>
425           <para>Discover all files that have objects residing on the deactivated OST. </para>
426           <para>Depending on whether the deactivated OST is available or not, the data from that OST
427             may be migrated to other OSTs, or may need to be restored from backup. </para>
428           <orderedlist>
429             <listitem>
430               <para>If the OST is still online and available, find all files with objects on the
431                 deactivated OST, and copy them to other OSTs in the file system to: </para>
432               <screen>client# lfs find --obd <replaceable>ost_name</replaceable> <replaceable>/mount/point</replaceable> | lfs_migrate -y</screen>
433             </listitem>
434             <listitem>
435               <para>If the OST is no longer available, delete the files on that OST and restore them
436                 from backup:
437                 <screen>client# lfs find --obd <replaceable>ost_uuid</replaceable> -print0 <replaceable>/mount/point</replaceable> | \
438            tee /tmp/files_to_restore | xargs -0 -n 1 unlink</screen>
439                 The list of files that need to be restored from backup is stored in
440                   <literal>/tmp/files_to_restore</literal>. Restoring these files is beyond the
441                 scope of this document.</para>
442             </listitem>
443           </orderedlist>
444         </listitem>
445         <listitem>
446           <para>Deactivate the OST.</para>
447           <orderedlist>
448             <listitem>
449               <para>To temporarily disable the deactivated OST, enter:
450                 <screen>[client]# lctl set_param osc.<replaceable>fsname</replaceable>-<replaceable>OSTnumber</replaceable>-*.active=0</screen>If
451                 there is expected to be a replacement OST in some short time (a few days), the OST
452                 can temporarily be deactivated on the clients: <note>
453                   <para>This setting is only temporary and will be reset if the clients or MDS are
454                     rebooted. It needs to be run on all clients.</para>
455                 </note></para>
456             </listitem>
457           </orderedlist>
458           <para>If there is not expected to be a replacement for this OST in the near future,
459             permanently deactivate the OST on all clients and the MDS:
460             <screen>[mgs]# lctl conf_param <replaceable>ost_name</replaceable>.osc.active=0</screen></para>
461           <note>
462             <para>A removed OST still appears in the file system; do not create a new OST with the
463               same name.</para>
464           </note>
465         </listitem>
466       </orderedlist>
467     </section>
468       <section remap="h3" xml:id="section_ydg_pgt_tl">
469       <title><indexterm>
470           <primary>maintenance</primary>
471           <secondary>backing up OST config</secondary>
472         </indexterm>
473         <indexterm>
474           <primary>backup</primary>
475           <secondary>OST config</secondary>
476         </indexterm> Backing Up OST Configuration Files</title>
477       <para>If the OST device is still accessible, then the Lustre configuration files on the OST
478         should be backed up and saved for future use in order to avoid difficulties when a
479         replacement OST is returned to service. These files rarely change, so they can and should be
480         backed up while the OST is functional and accessible. If the deactivated OST is still
481         available to mount (i.e. has not permanently failed or is unmountable due to severe
482         corruption), an effort should be made to preserve these files. </para>
483       <orderedlist>
484         <listitem>
485           <para>Mount the OST file system.
486             <screen>oss# mkdir -p /mnt/ost
487 [oss]# mount -t ldiskfs <replaceable>/dev/ost_device</replaceable> /mnt/ost</screen>
488           </para>
489         </listitem>
490         <listitem>
491           <para>Back up the OST configuration files.
492             <screen>oss# tar cvf <replaceable>ost_name</replaceable>.tar -C /mnt/ost last_rcvd \
493            CONFIGS/ O/0/LAST_ID</screen>
494           </para>
495         </listitem>
496         <listitem>
497           <para> Unmount the OST file system. <screen>oss# umount /mnt/ost</screen>
498           </para>
499         </listitem>
500       </orderedlist>
501     </section>
502       <section xml:id="section_kzs_pgt_tl">
503       <title><indexterm>
504           <primary>maintenance</primary>
505           <secondary>restoring OST config</secondary>
506         </indexterm>
507         <indexterm>
508           <primary>backup</primary>
509           <secondary>restoring OST config</secondary>
510         </indexterm> Restoring OST Configuration Files</title>
511       <para>If the original OST is still available, it is best to follow the OST backup and restore
512         procedure given in either <xref linkend="dbdoclet.50438207_71633"/>, or <xref
513           linkend="dbdoclet.50438207_21638"/> and <xref linkend="dbdoclet.50438207_22325"/>. </para>
514       <para>To replace an OST that was removed from service due to corruption or hardware failure,
515         the file system needs to be formatted using <literal>mkfs.lustre</literal>, and the Lustre
516         file system configuration should be restored, if available. </para>
517       <para>If the OST configuration files were not backed up, due to the OST file system being
518         completely inaccessible, it is still possible to replace the failed OST with a new one at
519         the same OST index. </para>
520       <orderedlist>
521         <listitem>
522           <para> Format the OST file system.
523             <screen>oss# mkfs.lustre --ost --index=<replaceable>old_ost_index</replaceable> <replaceable>other_options</replaceable> \
524            <replaceable>/dev/new_ost_dev</replaceable></screen>
525           </para>
526         </listitem>
527         <listitem>
528           <para> Mount the OST file system.
529             <screen>oss# mkdir /mnt/ost
530 oss# mount -t ldiskfs <replaceable>/dev/new_ost_dev</replaceable> <replaceable>/mnt/ost</replaceable></screen>
531           </para>
532         </listitem>
533         <listitem>
534           <para>Restore the OST configuration files, if available.
535             <screen>oss# tar xvf <replaceable>ost_name</replaceable>.tar -C /mnt/ost</screen></para>
536         </listitem>
537         <listitem>
538           <para>Recreate the OST configuration files, if unavailable. </para>
539           <para>Follow the procedure in <xref linkend="dbdoclet.50438198_69657"/> to recreate the
540             LAST_ID file for this OST index. The <literal>last_rcvd</literal> file will be recreated
541             when the OST is first mounted using the default parameters, which are normally correct
542             for all file systems. The <literal>CONFIGS/mountdata</literal> file is created by
543               <literal>mkfs.lustre</literal> at format time, but has flags set that request it to
544             register itself with the MGS. It is possible to copy these flags from another working
545             OST (which should be the same):
546             <screen>oss1# debugfs -c -R &quot;dump CONFIGS/mountdata /tmp/ldd&quot; <replaceable>/dev/other_osdev</replaceable>
547 oss1# scp /tmp/ldd oss0:/tmp/ldd
548 oss0# dd if=/tmp/ldd of=/mnt/ost/CONFIGS/mountdata bs=4 count=1 seek=5 skip=5 conv=notrunc</screen></para>
549         </listitem>
550         <listitem>
551           <para> Unmount the OST file system. <screen>oss# umount /mnt/ost</screen>
552           </para>
553         </listitem>
554       </orderedlist>
555     </section>
556       <section xml:id="section_ucf_qgt_tl">
557       <title><indexterm>
558           <primary>maintenance</primary>
559           <secondary>reintroducing an OSTs</secondary>
560         </indexterm> Returning a Deactivated OST to Service</title>
561       <para> If the OST was permanently deactivated, it needs to be reactivated in the MGS
562         configuration.
563         <screen>mgs# lctl conf_param <replaceable>ost_name</replaceable>.osc.active=1</screen> If
564         the OST was temporarily deactivated, it needs to be reactivated on the MDS and clients.
565         <screen>mds# lctl --device <replaceable>lustre_devno</replaceable> activate
566                     client# lctl set_param osc.<replaceable>fsname</replaceable>-<replaceable>OSTnumber</replaceable>-*.active=0</screen></para>
567     </section>
568     </section>
569     <section xml:id="dbdoclet.50438199_77819">
570       <title><indexterm><primary>maintenance</primary><secondary>aborting recovery</secondary></indexterm>
571       <indexterm><primary>backup</primary><secondary>aborting recovery</secondary></indexterm>
572 Aborting Recovery</title>
573       <para>You can abort recovery with either the <literal>lctl</literal> utility or by mounting the target with the <literal>abort_recov</literal> option (<literal>mount -o abort_recov</literal>). When starting a target, run: <screen>mds# mount -t lustre -L <replaceable>mdt_name</replaceable> -o abort_recov <replaceable>/mount_point</replaceable></screen></para>
574       <note>
575         <para>The recovery process is blocked until all OSTs are available. </para>
576       </note>
577     </section>
578     <section xml:id="dbdoclet.50438199_12607">
579       <title><indexterm><primary>maintenance</primary><secondary>identifying OST host</secondary></indexterm>
580 Determining Which Machine is Serving an OST </title>
581       <para>In the course of administering a Lustre file system, you may need to determine which
582       machine is serving a specific OST. It is not as simple as identifying the machine’s IP
583       address, as IP is only one of several networking protocols that the Lustre software uses and,
584       as such, LNET does not use IP addresses as node identifiers, but NIDs instead. To identify the
585       NID that is serving a specific OST, run one of the following commands on a client (you do not
586       need to be a root user):
587       <screen>client$ lctl get_param osc.<replaceable>fsname</replaceable>-<replaceable>OSTnumber</replaceable>*.ost_conn_uuid</screen>For
588       example:
589       <screen>client$ lctl get_param osc.*-OST0000*.ost_conn_uuid 
590 osc.testfs-OST0000-osc-f1579000.ost_conn_uuid=192.168.20.1@tcp</screen>-
591       OR -
592       <screen>client$ lctl get_param osc.*.ost_conn_uuid 
593 osc.testfs-OST0000-osc-f1579000.ost_conn_uuid=192.168.20.1@tcp
594 osc.testfs-OST0001-osc-f1579000.ost_conn_uuid=192.168.20.1@tcp
595 osc.testfs-OST0002-osc-f1579000.ost_conn_uuid=192.168.20.1@tcp
596 osc.testfs-OST0003-osc-f1579000.ost_conn_uuid=192.168.20.1@tcp
597 osc.testfs-OST0004-osc-f1579000.ost_conn_uuid=192.168.20.1@tcp</screen></para>
598     </section>
599     <section xml:id="dbdoclet.50438199_62333">
600       <title><indexterm><primary>maintenance</primary><secondary>changing failover node address</secondary></indexterm>
601 Changing the Address of a Failover Node</title>
602       <para>To change the address of a failover node (e.g, to use node X instead of node Y), run
603       this command on the OSS/OST partition (depending on which option was used to originally
604       identify the NID):
605       <screen>oss# tunefs.lustre --erase-params --servicenode=<replaceable>NID</replaceable> <replaceable>/dev/ost_device</replaceable></screen>
606       or
607       <screen>oss# tunefs.lustre --erase-params --failnode=<replaceable>NID</replaceable> <replaceable>/dev/ost_device</replaceable></screen>
608       For more information about the <literal>--servicenode</literal> and
609         <literal>--failnode</literal> options, see <xref xmlns:xlink="http://www.w3.org/1999/xlink"
610         linkend="configuringfailover"/>.</para>
611     </section>
612     <section xml:id="dbdoclet.50438199_62545">
613       <title><indexterm><primary>maintenance</primary><secondary>separate a combined MGS/MDT</secondary></indexterm>
614 Separate a combined MGS/MDT</title>
615       <para>These instructions assume the MGS node will be the same as the MDS node. For instructions on how to move MGS to a different node, see <xref linkend="dbdoclet.50438199_31353"/>.</para>
616       <para>These instructions are for doing the split without shutting down other servers and clients.</para>
617       <orderedlist>
618         <listitem>
619           <para>Stop the MDS.</para>
620           <para>Unmount the MDT</para>
621               <screen>umount -f <replaceable>/dev/mdt_device</replaceable> </screen>
622         </listitem>
623         <listitem>
624           <para>Create the MGS.</para>
625               <screen>mds# mkfs.lustre --mgs --device-size=<replaceable>size</replaceable> <replaceable>/dev/mgs_device</replaceable></screen>
626         </listitem>
627         <listitem>
628           <para>Copy the configuration data from MDT disk to the new MGS disk.</para>
629               <screen>mds# mount -t ldiskfs -o ro <replaceable>/dev/mdt_device</replaceable> <replaceable>/mdt_mount_point</replaceable></screen>
630               <screen>mds# mount -t ldiskfs -o rw <replaceable>/dev/mgs_device</replaceable> <replaceable>/mgs_mount_point</replaceable> </screen>
631               <screen>mds# cp -r <replaceable>/mdt_mount_point</replaceable>/CONFIGS/<replaceable>filesystem_name</replaceable>-* <replaceable>/mgs_mount_point</replaceable>/CONFIGS/. </screen>
632               <screen>mds# umount <replaceable>/mgs_mount_point</replaceable></screen>
633               <screen>mds# umount <replaceable>/mdt_mount_point</replaceable></screen>
634           <para>See <xref linkend="dbdoclet.50438199_54623"/> for alternative method.</para>
635         </listitem>
636         <listitem>
637           <para>Start the MGS.</para>
638               <screen>mgs# mount -t lustre <replaceable>/dev/mgs_device</replaceable> <replaceable>/mgs_mount_point</replaceable></screen>
639           <para>Check to make sure it knows about all your file system</para>
640               <screen>cat /proc/fs/lustre/mgs/MGS/filesystems</screen>
641         </listitem>
642         <listitem>
643           <para>Remove the MGS option from the MDT, and set the new MGS nid.</para>
644               <screen>mds# tunefs.lustre --nomgs --mgsnode=<replaceable>new_mgs_nid</replaceable> <replaceable>/dev/mdt-device</replaceable></screen>
645         </listitem>
646         <listitem>
647           <para>Start the MDT.</para>
648               <screen>mds# mount -t lustre <replaceable>/dev/mdt_device /mdt_mount_point</replaceable></screen>
649           <para>Check to make sure the MGS configuration look right</para>
650               <screen>mds# cat /proc/fs/lustre/mgs/MGS/live/<replaceable>filesystem_name</replaceable></screen>
651         </listitem>
652       </orderedlist>
653     </section>
654 </chapter>