Merge branch 'for-linus' of git://git.kernel.org/pub/scm/linux/kernel/git/sage/ceph...
[~shefty/rdma-dev.git] / fs / ceph / dir.c
1 #include <linux/ceph/ceph_debug.h>
2
3 #include <linux/spinlock.h>
4 #include <linux/fs_struct.h>
5 #include <linux/namei.h>
6 #include <linux/slab.h>
7 #include <linux/sched.h>
8
9 #include "super.h"
10 #include "mds_client.h"
11
12 /*
13  * Directory operations: readdir, lookup, create, link, unlink,
14  * rename, etc.
15  */
16
17 /*
18  * Ceph MDS operations are specified in terms of a base ino and
19  * relative path.  Thus, the client can specify an operation on a
20  * specific inode (e.g., a getattr due to fstat(2)), or as a path
21  * relative to, say, the root directory.
22  *
23  * Normally, we limit ourselves to strict inode ops (no path component)
24  * or dentry operations (a single path component relative to an ino).  The
25  * exception to this is open_root_dentry(), which will open the mount
26  * point by name.
27  */
28
29 const struct inode_operations ceph_dir_iops;
30 const struct file_operations ceph_dir_fops;
31 const struct dentry_operations ceph_dentry_ops;
32
33 /*
34  * Initialize ceph dentry state.
35  */
36 int ceph_init_dentry(struct dentry *dentry)
37 {
38         struct ceph_dentry_info *di;
39
40         if (dentry->d_fsdata)
41                 return 0;
42
43         di = kmem_cache_alloc(ceph_dentry_cachep, GFP_NOFS | __GFP_ZERO);
44         if (!di)
45                 return -ENOMEM;          /* oh well */
46
47         spin_lock(&dentry->d_lock);
48         if (dentry->d_fsdata) {
49                 /* lost a race */
50                 kmem_cache_free(ceph_dentry_cachep, di);
51                 goto out_unlock;
52         }
53
54         if (ceph_snap(dentry->d_parent->d_inode) == CEPH_NOSNAP)
55                 d_set_d_op(dentry, &ceph_dentry_ops);
56         else if (ceph_snap(dentry->d_parent->d_inode) == CEPH_SNAPDIR)
57                 d_set_d_op(dentry, &ceph_snapdir_dentry_ops);
58         else
59                 d_set_d_op(dentry, &ceph_snap_dentry_ops);
60
61         di->dentry = dentry;
62         di->lease_session = NULL;
63         dentry->d_time = jiffies;
64         /* avoid reordering d_fsdata setup so that the check above is safe */
65         smp_mb();
66         dentry->d_fsdata = di;
67         ceph_dentry_lru_add(dentry);
68 out_unlock:
69         spin_unlock(&dentry->d_lock);
70         return 0;
71 }
72
73 struct inode *ceph_get_dentry_parent_inode(struct dentry *dentry)
74 {
75         struct inode *inode = NULL;
76
77         if (!dentry)
78                 return NULL;
79
80         spin_lock(&dentry->d_lock);
81         if (!IS_ROOT(dentry)) {
82                 inode = dentry->d_parent->d_inode;
83                 ihold(inode);
84         }
85         spin_unlock(&dentry->d_lock);
86         return inode;
87 }
88
89
90 /*
91  * for readdir, we encode the directory frag and offset within that
92  * frag into f_pos.
93  */
94 static unsigned fpos_frag(loff_t p)
95 {
96         return p >> 32;
97 }
98 static unsigned fpos_off(loff_t p)
99 {
100         return p & 0xffffffff;
101 }
102
103 /*
104  * When possible, we try to satisfy a readdir by peeking at the
105  * dcache.  We make this work by carefully ordering dentries on
106  * d_u.d_child when we initially get results back from the MDS, and
107  * falling back to a "normal" sync readdir if any dentries in the dir
108  * are dropped.
109  *
110  * D_COMPLETE tells indicates we have all dentries in the dir.  It is
111  * defined IFF we hold CEPH_CAP_FILE_SHARED (which will be revoked by
112  * the MDS if/when the directory is modified).
113  */
114 static int __dcache_readdir(struct file *filp,
115                             void *dirent, filldir_t filldir)
116 {
117         struct ceph_file_info *fi = filp->private_data;
118         struct dentry *parent = filp->f_dentry;
119         struct inode *dir = parent->d_inode;
120         struct list_head *p;
121         struct dentry *dentry, *last;
122         struct ceph_dentry_info *di;
123         int err = 0;
124
125         /* claim ref on last dentry we returned */
126         last = fi->dentry;
127         fi->dentry = NULL;
128
129         dout("__dcache_readdir %p at %llu (last %p)\n", dir, filp->f_pos,
130              last);
131
132         spin_lock(&parent->d_lock);
133
134         /* start at beginning? */
135         if (filp->f_pos == 2 || last == NULL ||
136             filp->f_pos < ceph_dentry(last)->offset) {
137                 if (list_empty(&parent->d_subdirs))
138                         goto out_unlock;
139                 p = parent->d_subdirs.prev;
140                 dout(" initial p %p/%p\n", p->prev, p->next);
141         } else {
142                 p = last->d_u.d_child.prev;
143         }
144
145 more:
146         dentry = list_entry(p, struct dentry, d_u.d_child);
147         di = ceph_dentry(dentry);
148         while (1) {
149                 dout(" p %p/%p %s d_subdirs %p/%p\n", p->prev, p->next,
150                      d_unhashed(dentry) ? "!hashed" : "hashed",
151                      parent->d_subdirs.prev, parent->d_subdirs.next);
152                 if (p == &parent->d_subdirs) {
153                         fi->flags |= CEPH_F_ATEND;
154                         goto out_unlock;
155                 }
156                 spin_lock_nested(&dentry->d_lock, DENTRY_D_LOCK_NESTED);
157                 if (!d_unhashed(dentry) && dentry->d_inode &&
158                     ceph_snap(dentry->d_inode) != CEPH_SNAPDIR &&
159                     ceph_ino(dentry->d_inode) != CEPH_INO_CEPH &&
160                     filp->f_pos <= di->offset)
161                         break;
162                 dout(" skipping %p %.*s at %llu (%llu)%s%s\n", dentry,
163                      dentry->d_name.len, dentry->d_name.name, di->offset,
164                      filp->f_pos, d_unhashed(dentry) ? " unhashed" : "",
165                      !dentry->d_inode ? " null" : "");
166                 spin_unlock(&dentry->d_lock);
167                 p = p->prev;
168                 dentry = list_entry(p, struct dentry, d_u.d_child);
169                 di = ceph_dentry(dentry);
170         }
171
172         dget_dlock(dentry);
173         spin_unlock(&dentry->d_lock);
174         spin_unlock(&parent->d_lock);
175
176         dout(" %llu (%llu) dentry %p %.*s %p\n", di->offset, filp->f_pos,
177              dentry, dentry->d_name.len, dentry->d_name.name, dentry->d_inode);
178         filp->f_pos = di->offset;
179         err = filldir(dirent, dentry->d_name.name,
180                       dentry->d_name.len, di->offset,
181                       ceph_translate_ino(dentry->d_sb, dentry->d_inode->i_ino),
182                       dentry->d_inode->i_mode >> 12);
183
184         if (last) {
185                 if (err < 0) {
186                         /* remember our position */
187                         fi->dentry = last;
188                         fi->next_offset = di->offset;
189                 } else {
190                         dput(last);
191                 }
192         }
193         last = dentry;
194
195         if (err < 0)
196                 goto out;
197
198         filp->f_pos++;
199
200         /* make sure a dentry wasn't dropped while we didn't have parent lock */
201         if (!ceph_dir_test_complete(dir)) {
202                 dout(" lost D_COMPLETE on %p; falling back to mds\n", dir);
203                 err = -EAGAIN;
204                 goto out;
205         }
206
207         spin_lock(&parent->d_lock);
208         p = p->prev;    /* advance to next dentry */
209         goto more;
210
211 out_unlock:
212         spin_unlock(&parent->d_lock);
213 out:
214         if (last)
215                 dput(last);
216         return err;
217 }
218
219 /*
220  * make note of the last dentry we read, so we can
221  * continue at the same lexicographical point,
222  * regardless of what dir changes take place on the
223  * server.
224  */
225 static int note_last_dentry(struct ceph_file_info *fi, const char *name,
226                             int len)
227 {
228         kfree(fi->last_name);
229         fi->last_name = kmalloc(len+1, GFP_NOFS);
230         if (!fi->last_name)
231                 return -ENOMEM;
232         memcpy(fi->last_name, name, len);
233         fi->last_name[len] = 0;
234         dout("note_last_dentry '%s'\n", fi->last_name);
235         return 0;
236 }
237
238 static int ceph_readdir(struct file *filp, void *dirent, filldir_t filldir)
239 {
240         struct ceph_file_info *fi = filp->private_data;
241         struct inode *inode = filp->f_dentry->d_inode;
242         struct ceph_inode_info *ci = ceph_inode(inode);
243         struct ceph_fs_client *fsc = ceph_inode_to_client(inode);
244         struct ceph_mds_client *mdsc = fsc->mdsc;
245         unsigned frag = fpos_frag(filp->f_pos);
246         int off = fpos_off(filp->f_pos);
247         int err;
248         u32 ftype;
249         struct ceph_mds_reply_info_parsed *rinfo;
250         const int max_entries = fsc->mount_options->max_readdir;
251         const int max_bytes = fsc->mount_options->max_readdir_bytes;
252
253         dout("readdir %p filp %p frag %u off %u\n", inode, filp, frag, off);
254         if (fi->flags & CEPH_F_ATEND)
255                 return 0;
256
257         /* always start with . and .. */
258         if (filp->f_pos == 0) {
259                 /* note dir version at start of readdir so we can tell
260                  * if any dentries get dropped */
261                 fi->dir_release_count = ci->i_release_count;
262
263                 dout("readdir off 0 -> '.'\n");
264                 if (filldir(dirent, ".", 1, ceph_make_fpos(0, 0),
265                             ceph_translate_ino(inode->i_sb, inode->i_ino),
266                             inode->i_mode >> 12) < 0)
267                         return 0;
268                 filp->f_pos = 1;
269                 off = 1;
270         }
271         if (filp->f_pos == 1) {
272                 ino_t ino = parent_ino(filp->f_dentry);
273                 dout("readdir off 1 -> '..'\n");
274                 if (filldir(dirent, "..", 2, ceph_make_fpos(0, 1),
275                             ceph_translate_ino(inode->i_sb, ino),
276                             inode->i_mode >> 12) < 0)
277                         return 0;
278                 filp->f_pos = 2;
279                 off = 2;
280         }
281
282         /* can we use the dcache? */
283         spin_lock(&ci->i_ceph_lock);
284         if ((filp->f_pos == 2 || fi->dentry) &&
285             !ceph_test_mount_opt(fsc, NOASYNCREADDIR) &&
286             ceph_snap(inode) != CEPH_SNAPDIR &&
287             ceph_dir_test_complete(inode) &&
288             __ceph_caps_issued_mask(ci, CEPH_CAP_FILE_SHARED, 1)) {
289                 spin_unlock(&ci->i_ceph_lock);
290                 err = __dcache_readdir(filp, dirent, filldir);
291                 if (err != -EAGAIN)
292                         return err;
293         } else {
294                 spin_unlock(&ci->i_ceph_lock);
295         }
296         if (fi->dentry) {
297                 err = note_last_dentry(fi, fi->dentry->d_name.name,
298                                        fi->dentry->d_name.len);
299                 if (err)
300                         return err;
301                 dput(fi->dentry);
302                 fi->dentry = NULL;
303         }
304
305         /* proceed with a normal readdir */
306
307 more:
308         /* do we have the correct frag content buffered? */
309         if (fi->frag != frag || fi->last_readdir == NULL) {
310                 struct ceph_mds_request *req;
311                 int op = ceph_snap(inode) == CEPH_SNAPDIR ?
312                         CEPH_MDS_OP_LSSNAP : CEPH_MDS_OP_READDIR;
313
314                 /* discard old result, if any */
315                 if (fi->last_readdir) {
316                         ceph_mdsc_put_request(fi->last_readdir);
317                         fi->last_readdir = NULL;
318                 }
319
320                 /* requery frag tree, as the frag topology may have changed */
321                 frag = ceph_choose_frag(ceph_inode(inode), frag, NULL, NULL);
322
323                 dout("readdir fetching %llx.%llx frag %x offset '%s'\n",
324                      ceph_vinop(inode), frag, fi->last_name);
325                 req = ceph_mdsc_create_request(mdsc, op, USE_AUTH_MDS);
326                 if (IS_ERR(req))
327                         return PTR_ERR(req);
328                 req->r_inode = inode;
329                 ihold(inode);
330                 req->r_dentry = dget(filp->f_dentry);
331                 /* hints to request -> mds selection code */
332                 req->r_direct_mode = USE_AUTH_MDS;
333                 req->r_direct_hash = ceph_frag_value(frag);
334                 req->r_direct_is_hash = true;
335                 req->r_path2 = kstrdup(fi->last_name, GFP_NOFS);
336                 req->r_readdir_offset = fi->next_offset;
337                 req->r_args.readdir.frag = cpu_to_le32(frag);
338                 req->r_args.readdir.max_entries = cpu_to_le32(max_entries);
339                 req->r_args.readdir.max_bytes = cpu_to_le32(max_bytes);
340                 req->r_num_caps = max_entries + 1;
341                 err = ceph_mdsc_do_request(mdsc, NULL, req);
342                 if (err < 0) {
343                         ceph_mdsc_put_request(req);
344                         return err;
345                 }
346                 dout("readdir got and parsed readdir result=%d"
347                      " on frag %x, end=%d, complete=%d\n", err, frag,
348                      (int)req->r_reply_info.dir_end,
349                      (int)req->r_reply_info.dir_complete);
350
351                 if (!req->r_did_prepopulate) {
352                         dout("readdir !did_prepopulate");
353                         fi->dir_release_count--;    /* preclude D_COMPLETE */
354                 }
355
356                 /* note next offset and last dentry name */
357                 fi->offset = fi->next_offset;
358                 fi->last_readdir = req;
359
360                 if (req->r_reply_info.dir_end) {
361                         kfree(fi->last_name);
362                         fi->last_name = NULL;
363                         if (ceph_frag_is_rightmost(frag))
364                                 fi->next_offset = 2;
365                         else
366                                 fi->next_offset = 0;
367                 } else {
368                         rinfo = &req->r_reply_info;
369                         err = note_last_dentry(fi,
370                                        rinfo->dir_dname[rinfo->dir_nr-1],
371                                        rinfo->dir_dname_len[rinfo->dir_nr-1]);
372                         if (err)
373                                 return err;
374                         fi->next_offset += rinfo->dir_nr;
375                 }
376         }
377
378         rinfo = &fi->last_readdir->r_reply_info;
379         dout("readdir frag %x num %d off %d chunkoff %d\n", frag,
380              rinfo->dir_nr, off, fi->offset);
381         while (off >= fi->offset && off - fi->offset < rinfo->dir_nr) {
382                 u64 pos = ceph_make_fpos(frag, off);
383                 struct ceph_mds_reply_inode *in =
384                         rinfo->dir_in[off - fi->offset].in;
385                 struct ceph_vino vino;
386                 ino_t ino;
387
388                 dout("readdir off %d (%d/%d) -> %lld '%.*s' %p\n",
389                      off, off - fi->offset, rinfo->dir_nr, pos,
390                      rinfo->dir_dname_len[off - fi->offset],
391                      rinfo->dir_dname[off - fi->offset], in);
392                 BUG_ON(!in);
393                 ftype = le32_to_cpu(in->mode) >> 12;
394                 vino.ino = le64_to_cpu(in->ino);
395                 vino.snap = le64_to_cpu(in->snapid);
396                 ino = ceph_vino_to_ino(vino);
397                 if (filldir(dirent,
398                             rinfo->dir_dname[off - fi->offset],
399                             rinfo->dir_dname_len[off - fi->offset],
400                             pos,
401                             ceph_translate_ino(inode->i_sb, ino), ftype) < 0) {
402                         dout("filldir stopping us...\n");
403                         return 0;
404                 }
405                 off++;
406                 filp->f_pos = pos + 1;
407         }
408
409         if (fi->last_name) {
410                 ceph_mdsc_put_request(fi->last_readdir);
411                 fi->last_readdir = NULL;
412                 goto more;
413         }
414
415         /* more frags? */
416         if (!ceph_frag_is_rightmost(frag)) {
417                 frag = ceph_frag_next(frag);
418                 off = 0;
419                 filp->f_pos = ceph_make_fpos(frag, off);
420                 dout("readdir next frag is %x\n", frag);
421                 goto more;
422         }
423         fi->flags |= CEPH_F_ATEND;
424
425         /*
426          * if dir_release_count still matches the dir, no dentries
427          * were released during the whole readdir, and we should have
428          * the complete dir contents in our cache.
429          */
430         spin_lock(&ci->i_ceph_lock);
431         if (ci->i_release_count == fi->dir_release_count) {
432                 ceph_dir_set_complete(inode);
433                 ci->i_max_offset = filp->f_pos;
434         }
435         spin_unlock(&ci->i_ceph_lock);
436
437         dout("readdir %p filp %p done.\n", inode, filp);
438         return 0;
439 }
440
441 static void reset_readdir(struct ceph_file_info *fi)
442 {
443         if (fi->last_readdir) {
444                 ceph_mdsc_put_request(fi->last_readdir);
445                 fi->last_readdir = NULL;
446         }
447         kfree(fi->last_name);
448         fi->last_name = NULL;
449         fi->next_offset = 2;  /* compensate for . and .. */
450         if (fi->dentry) {
451                 dput(fi->dentry);
452                 fi->dentry = NULL;
453         }
454         fi->flags &= ~CEPH_F_ATEND;
455 }
456
457 static loff_t ceph_dir_llseek(struct file *file, loff_t offset, int origin)
458 {
459         struct ceph_file_info *fi = file->private_data;
460         struct inode *inode = file->f_mapping->host;
461         loff_t old_offset = offset;
462         loff_t retval;
463
464         mutex_lock(&inode->i_mutex);
465         retval = -EINVAL;
466         switch (origin) {
467         case SEEK_END:
468                 offset += inode->i_size + 2;   /* FIXME */
469                 break;
470         case SEEK_CUR:
471                 offset += file->f_pos;
472         case SEEK_SET:
473                 break;
474         default:
475                 goto out;
476         }
477
478         if (offset >= 0 && offset <= inode->i_sb->s_maxbytes) {
479                 if (offset != file->f_pos) {
480                         file->f_pos = offset;
481                         file->f_version = 0;
482                         fi->flags &= ~CEPH_F_ATEND;
483                 }
484                 retval = offset;
485
486                 /*
487                  * discard buffered readdir content on seekdir(0), or
488                  * seek to new frag, or seek prior to current chunk.
489                  */
490                 if (offset == 0 ||
491                     fpos_frag(offset) != fpos_frag(old_offset) ||
492                     fpos_off(offset) < fi->offset) {
493                         dout("dir_llseek dropping %p content\n", file);
494                         reset_readdir(fi);
495                 }
496
497                 /* bump dir_release_count if we did a forward seek */
498                 if (offset > old_offset)
499                         fi->dir_release_count--;
500         }
501 out:
502         mutex_unlock(&inode->i_mutex);
503         return retval;
504 }
505
506 /*
507  * Handle lookups for the hidden .snap directory.
508  */
509 int ceph_handle_snapdir(struct ceph_mds_request *req,
510                         struct dentry *dentry, int err)
511 {
512         struct ceph_fs_client *fsc = ceph_sb_to_client(dentry->d_sb);
513         struct inode *parent = dentry->d_parent->d_inode; /* we hold i_mutex */
514
515         /* .snap dir? */
516         if (err == -ENOENT &&
517             ceph_snap(parent) == CEPH_NOSNAP &&
518             strcmp(dentry->d_name.name,
519                    fsc->mount_options->snapdir_name) == 0) {
520                 struct inode *inode = ceph_get_snapdir(parent);
521                 dout("ENOENT on snapdir %p '%.*s', linking to snapdir %p\n",
522                      dentry, dentry->d_name.len, dentry->d_name.name, inode);
523                 BUG_ON(!d_unhashed(dentry));
524                 d_add(dentry, inode);
525                 err = 0;
526         }
527         return err;
528 }
529
530 /*
531  * Figure out final result of a lookup/open request.
532  *
533  * Mainly, make sure we return the final req->r_dentry (if it already
534  * existed) in place of the original VFS-provided dentry when they
535  * differ.
536  *
537  * Gracefully handle the case where the MDS replies with -ENOENT and
538  * no trace (which it may do, at its discretion, e.g., if it doesn't
539  * care to issue a lease on the negative dentry).
540  */
541 struct dentry *ceph_finish_lookup(struct ceph_mds_request *req,
542                                   struct dentry *dentry, int err)
543 {
544         if (err == -ENOENT) {
545                 /* no trace? */
546                 err = 0;
547                 if (!req->r_reply_info.head->is_dentry) {
548                         dout("ENOENT and no trace, dentry %p inode %p\n",
549                              dentry, dentry->d_inode);
550                         if (dentry->d_inode) {
551                                 d_drop(dentry);
552                                 err = -ENOENT;
553                         } else {
554                                 d_add(dentry, NULL);
555                         }
556                 }
557         }
558         if (err)
559                 dentry = ERR_PTR(err);
560         else if (dentry != req->r_dentry)
561                 dentry = dget(req->r_dentry);   /* we got spliced */
562         else
563                 dentry = NULL;
564         return dentry;
565 }
566
567 static int is_root_ceph_dentry(struct inode *inode, struct dentry *dentry)
568 {
569         return ceph_ino(inode) == CEPH_INO_ROOT &&
570                 strncmp(dentry->d_name.name, ".ceph", 5) == 0;
571 }
572
573 /*
574  * Look up a single dir entry.  If there is a lookup intent, inform
575  * the MDS so that it gets our 'caps wanted' value in a single op.
576  */
577 static struct dentry *ceph_lookup(struct inode *dir, struct dentry *dentry,
578                                   unsigned int flags)
579 {
580         struct ceph_fs_client *fsc = ceph_sb_to_client(dir->i_sb);
581         struct ceph_mds_client *mdsc = fsc->mdsc;
582         struct ceph_mds_request *req;
583         int op;
584         int err;
585
586         dout("lookup %p dentry %p '%.*s'\n",
587              dir, dentry, dentry->d_name.len, dentry->d_name.name);
588
589         if (dentry->d_name.len > NAME_MAX)
590                 return ERR_PTR(-ENAMETOOLONG);
591
592         err = ceph_init_dentry(dentry);
593         if (err < 0)
594                 return ERR_PTR(err);
595
596         /* can we conclude ENOENT locally? */
597         if (dentry->d_inode == NULL) {
598                 struct ceph_inode_info *ci = ceph_inode(dir);
599                 struct ceph_dentry_info *di = ceph_dentry(dentry);
600
601                 spin_lock(&ci->i_ceph_lock);
602                 dout(" dir %p flags are %d\n", dir, ci->i_ceph_flags);
603                 if (strncmp(dentry->d_name.name,
604                             fsc->mount_options->snapdir_name,
605                             dentry->d_name.len) &&
606                     !is_root_ceph_dentry(dir, dentry) &&
607                     ceph_dir_test_complete(dir) &&
608                     (__ceph_caps_issued_mask(ci, CEPH_CAP_FILE_SHARED, 1))) {
609                         spin_unlock(&ci->i_ceph_lock);
610                         dout(" dir %p complete, -ENOENT\n", dir);
611                         d_add(dentry, NULL);
612                         di->lease_shared_gen = ci->i_shared_gen;
613                         return NULL;
614                 }
615                 spin_unlock(&ci->i_ceph_lock);
616         }
617
618         op = ceph_snap(dir) == CEPH_SNAPDIR ?
619                 CEPH_MDS_OP_LOOKUPSNAP : CEPH_MDS_OP_LOOKUP;
620         req = ceph_mdsc_create_request(mdsc, op, USE_ANY_MDS);
621         if (IS_ERR(req))
622                 return ERR_CAST(req);
623         req->r_dentry = dget(dentry);
624         req->r_num_caps = 2;
625         /* we only need inode linkage */
626         req->r_args.getattr.mask = cpu_to_le32(CEPH_STAT_CAP_INODE);
627         req->r_locked_dir = dir;
628         err = ceph_mdsc_do_request(mdsc, NULL, req);
629         err = ceph_handle_snapdir(req, dentry, err);
630         dentry = ceph_finish_lookup(req, dentry, err);
631         ceph_mdsc_put_request(req);  /* will dput(dentry) */
632         dout("lookup result=%p\n", dentry);
633         return dentry;
634 }
635
636 int ceph_atomic_open(struct inode *dir, struct dentry *dentry,
637                      struct file *file, unsigned flags, umode_t mode,
638                      int *opened)
639 {
640         int err;
641         struct dentry *res = NULL;
642
643         if (!(flags & O_CREAT)) {
644                 if (dentry->d_name.len > NAME_MAX)
645                         return -ENAMETOOLONG;
646
647                 err = ceph_init_dentry(dentry);
648                 if (err < 0)
649                         return err;
650
651                 return ceph_lookup_open(dir, dentry, file, flags, mode, opened);
652         }
653
654         if (d_unhashed(dentry)) {
655                 res = ceph_lookup(dir, dentry, 0);
656                 if (IS_ERR(res))
657                         return PTR_ERR(res);
658
659                 if (res)
660                         dentry = res;
661         }
662
663         /* We don't deal with positive dentries here */
664         if (dentry->d_inode)
665                 return finish_no_open(file, res);
666
667         *opened |= FILE_CREATED;
668         err = ceph_lookup_open(dir, dentry, file, flags, mode, opened);
669         dput(res);
670
671         return err;
672 }
673
674 /*
675  * If we do a create but get no trace back from the MDS, follow up with
676  * a lookup (the VFS expects us to link up the provided dentry).
677  */
678 int ceph_handle_notrace_create(struct inode *dir, struct dentry *dentry)
679 {
680         struct dentry *result = ceph_lookup(dir, dentry, 0);
681
682         if (result && !IS_ERR(result)) {
683                 /*
684                  * We created the item, then did a lookup, and found
685                  * it was already linked to another inode we already
686                  * had in our cache (and thus got spliced).  Link our
687                  * dentry to that inode, but don't hash it, just in
688                  * case the VFS wants to dereference it.
689                  */
690                 BUG_ON(!result->d_inode);
691                 d_instantiate(dentry, result->d_inode);
692                 return 0;
693         }
694         return PTR_ERR(result);
695 }
696
697 static int ceph_mknod(struct inode *dir, struct dentry *dentry,
698                       umode_t mode, dev_t rdev)
699 {
700         struct ceph_fs_client *fsc = ceph_sb_to_client(dir->i_sb);
701         struct ceph_mds_client *mdsc = fsc->mdsc;
702         struct ceph_mds_request *req;
703         int err;
704
705         if (ceph_snap(dir) != CEPH_NOSNAP)
706                 return -EROFS;
707
708         dout("mknod in dir %p dentry %p mode 0%ho rdev %d\n",
709              dir, dentry, mode, rdev);
710         req = ceph_mdsc_create_request(mdsc, CEPH_MDS_OP_MKNOD, USE_AUTH_MDS);
711         if (IS_ERR(req)) {
712                 d_drop(dentry);
713                 return PTR_ERR(req);
714         }
715         req->r_dentry = dget(dentry);
716         req->r_num_caps = 2;
717         req->r_locked_dir = dir;
718         req->r_args.mknod.mode = cpu_to_le32(mode);
719         req->r_args.mknod.rdev = cpu_to_le32(rdev);
720         req->r_dentry_drop = CEPH_CAP_FILE_SHARED;
721         req->r_dentry_unless = CEPH_CAP_FILE_EXCL;
722         err = ceph_mdsc_do_request(mdsc, dir, req);
723         if (!err && !req->r_reply_info.head->is_dentry)
724                 err = ceph_handle_notrace_create(dir, dentry);
725         ceph_mdsc_put_request(req);
726         if (err)
727                 d_drop(dentry);
728         return err;
729 }
730
731 static int ceph_create(struct inode *dir, struct dentry *dentry, umode_t mode,
732                        bool excl)
733 {
734         return ceph_mknod(dir, dentry, mode, 0);
735 }
736
737 static int ceph_symlink(struct inode *dir, struct dentry *dentry,
738                             const char *dest)
739 {
740         struct ceph_fs_client *fsc = ceph_sb_to_client(dir->i_sb);
741         struct ceph_mds_client *mdsc = fsc->mdsc;
742         struct ceph_mds_request *req;
743         int err;
744
745         if (ceph_snap(dir) != CEPH_NOSNAP)
746                 return -EROFS;
747
748         dout("symlink in dir %p dentry %p to '%s'\n", dir, dentry, dest);
749         req = ceph_mdsc_create_request(mdsc, CEPH_MDS_OP_SYMLINK, USE_AUTH_MDS);
750         if (IS_ERR(req)) {
751                 d_drop(dentry);
752                 return PTR_ERR(req);
753         }
754         req->r_dentry = dget(dentry);
755         req->r_num_caps = 2;
756         req->r_path2 = kstrdup(dest, GFP_NOFS);
757         req->r_locked_dir = dir;
758         req->r_dentry_drop = CEPH_CAP_FILE_SHARED;
759         req->r_dentry_unless = CEPH_CAP_FILE_EXCL;
760         err = ceph_mdsc_do_request(mdsc, dir, req);
761         if (!err && !req->r_reply_info.head->is_dentry)
762                 err = ceph_handle_notrace_create(dir, dentry);
763         ceph_mdsc_put_request(req);
764         if (err)
765                 d_drop(dentry);
766         return err;
767 }
768
769 static int ceph_mkdir(struct inode *dir, struct dentry *dentry, umode_t mode)
770 {
771         struct ceph_fs_client *fsc = ceph_sb_to_client(dir->i_sb);
772         struct ceph_mds_client *mdsc = fsc->mdsc;
773         struct ceph_mds_request *req;
774         int err = -EROFS;
775         int op;
776
777         if (ceph_snap(dir) == CEPH_SNAPDIR) {
778                 /* mkdir .snap/foo is a MKSNAP */
779                 op = CEPH_MDS_OP_MKSNAP;
780                 dout("mksnap dir %p snap '%.*s' dn %p\n", dir,
781                      dentry->d_name.len, dentry->d_name.name, dentry);
782         } else if (ceph_snap(dir) == CEPH_NOSNAP) {
783                 dout("mkdir dir %p dn %p mode 0%ho\n", dir, dentry, mode);
784                 op = CEPH_MDS_OP_MKDIR;
785         } else {
786                 goto out;
787         }
788         req = ceph_mdsc_create_request(mdsc, op, USE_AUTH_MDS);
789         if (IS_ERR(req)) {
790                 err = PTR_ERR(req);
791                 goto out;
792         }
793
794         req->r_dentry = dget(dentry);
795         req->r_num_caps = 2;
796         req->r_locked_dir = dir;
797         req->r_args.mkdir.mode = cpu_to_le32(mode);
798         req->r_dentry_drop = CEPH_CAP_FILE_SHARED;
799         req->r_dentry_unless = CEPH_CAP_FILE_EXCL;
800         err = ceph_mdsc_do_request(mdsc, dir, req);
801         if (!err && !req->r_reply_info.head->is_dentry)
802                 err = ceph_handle_notrace_create(dir, dentry);
803         ceph_mdsc_put_request(req);
804 out:
805         if (err < 0)
806                 d_drop(dentry);
807         return err;
808 }
809
810 static int ceph_link(struct dentry *old_dentry, struct inode *dir,
811                      struct dentry *dentry)
812 {
813         struct ceph_fs_client *fsc = ceph_sb_to_client(dir->i_sb);
814         struct ceph_mds_client *mdsc = fsc->mdsc;
815         struct ceph_mds_request *req;
816         int err;
817
818         if (ceph_snap(dir) != CEPH_NOSNAP)
819                 return -EROFS;
820
821         dout("link in dir %p old_dentry %p dentry %p\n", dir,
822              old_dentry, dentry);
823         req = ceph_mdsc_create_request(mdsc, CEPH_MDS_OP_LINK, USE_AUTH_MDS);
824         if (IS_ERR(req)) {
825                 d_drop(dentry);
826                 return PTR_ERR(req);
827         }
828         req->r_dentry = dget(dentry);
829         req->r_num_caps = 2;
830         req->r_old_dentry = dget(old_dentry); /* or inode? hrm. */
831         req->r_old_dentry_dir = ceph_get_dentry_parent_inode(old_dentry);
832         req->r_locked_dir = dir;
833         req->r_dentry_drop = CEPH_CAP_FILE_SHARED;
834         req->r_dentry_unless = CEPH_CAP_FILE_EXCL;
835         err = ceph_mdsc_do_request(mdsc, dir, req);
836         if (err) {
837                 d_drop(dentry);
838         } else if (!req->r_reply_info.head->is_dentry) {
839                 ihold(old_dentry->d_inode);
840                 d_instantiate(dentry, old_dentry->d_inode);
841         }
842         ceph_mdsc_put_request(req);
843         return err;
844 }
845
846 /*
847  * For a soon-to-be unlinked file, drop the AUTH_RDCACHE caps.  If it
848  * looks like the link count will hit 0, drop any other caps (other
849  * than PIN) we don't specifically want (due to the file still being
850  * open).
851  */
852 static int drop_caps_for_unlink(struct inode *inode)
853 {
854         struct ceph_inode_info *ci = ceph_inode(inode);
855         int drop = CEPH_CAP_LINK_SHARED | CEPH_CAP_LINK_EXCL;
856
857         spin_lock(&ci->i_ceph_lock);
858         if (inode->i_nlink == 1) {
859                 drop |= ~(__ceph_caps_wanted(ci) | CEPH_CAP_PIN);
860                 ci->i_ceph_flags |= CEPH_I_NODELAY;
861         }
862         spin_unlock(&ci->i_ceph_lock);
863         return drop;
864 }
865
866 /*
867  * rmdir and unlink are differ only by the metadata op code
868  */
869 static int ceph_unlink(struct inode *dir, struct dentry *dentry)
870 {
871         struct ceph_fs_client *fsc = ceph_sb_to_client(dir->i_sb);
872         struct ceph_mds_client *mdsc = fsc->mdsc;
873         struct inode *inode = dentry->d_inode;
874         struct ceph_mds_request *req;
875         int err = -EROFS;
876         int op;
877
878         if (ceph_snap(dir) == CEPH_SNAPDIR) {
879                 /* rmdir .snap/foo is RMSNAP */
880                 dout("rmsnap dir %p '%.*s' dn %p\n", dir, dentry->d_name.len,
881                      dentry->d_name.name, dentry);
882                 op = CEPH_MDS_OP_RMSNAP;
883         } else if (ceph_snap(dir) == CEPH_NOSNAP) {
884                 dout("unlink/rmdir dir %p dn %p inode %p\n",
885                      dir, dentry, inode);
886                 op = S_ISDIR(dentry->d_inode->i_mode) ?
887                         CEPH_MDS_OP_RMDIR : CEPH_MDS_OP_UNLINK;
888         } else
889                 goto out;
890         req = ceph_mdsc_create_request(mdsc, op, USE_AUTH_MDS);
891         if (IS_ERR(req)) {
892                 err = PTR_ERR(req);
893                 goto out;
894         }
895         req->r_dentry = dget(dentry);
896         req->r_num_caps = 2;
897         req->r_locked_dir = dir;
898         req->r_dentry_drop = CEPH_CAP_FILE_SHARED;
899         req->r_dentry_unless = CEPH_CAP_FILE_EXCL;
900         req->r_inode_drop = drop_caps_for_unlink(inode);
901         err = ceph_mdsc_do_request(mdsc, dir, req);
902         if (!err && !req->r_reply_info.head->is_dentry)
903                 d_delete(dentry);
904         ceph_mdsc_put_request(req);
905 out:
906         return err;
907 }
908
909 static int ceph_rename(struct inode *old_dir, struct dentry *old_dentry,
910                        struct inode *new_dir, struct dentry *new_dentry)
911 {
912         struct ceph_fs_client *fsc = ceph_sb_to_client(old_dir->i_sb);
913         struct ceph_mds_client *mdsc = fsc->mdsc;
914         struct ceph_mds_request *req;
915         int err;
916
917         if (ceph_snap(old_dir) != ceph_snap(new_dir))
918                 return -EXDEV;
919         if (ceph_snap(old_dir) != CEPH_NOSNAP ||
920             ceph_snap(new_dir) != CEPH_NOSNAP)
921                 return -EROFS;
922         dout("rename dir %p dentry %p to dir %p dentry %p\n",
923              old_dir, old_dentry, new_dir, new_dentry);
924         req = ceph_mdsc_create_request(mdsc, CEPH_MDS_OP_RENAME, USE_AUTH_MDS);
925         if (IS_ERR(req))
926                 return PTR_ERR(req);
927         req->r_dentry = dget(new_dentry);
928         req->r_num_caps = 2;
929         req->r_old_dentry = dget(old_dentry);
930         req->r_old_dentry_dir = ceph_get_dentry_parent_inode(old_dentry);
931         req->r_locked_dir = new_dir;
932         req->r_old_dentry_drop = CEPH_CAP_FILE_SHARED;
933         req->r_old_dentry_unless = CEPH_CAP_FILE_EXCL;
934         req->r_dentry_drop = CEPH_CAP_FILE_SHARED;
935         req->r_dentry_unless = CEPH_CAP_FILE_EXCL;
936         /* release LINK_RDCACHE on source inode (mds will lock it) */
937         req->r_old_inode_drop = CEPH_CAP_LINK_SHARED;
938         if (new_dentry->d_inode)
939                 req->r_inode_drop = drop_caps_for_unlink(new_dentry->d_inode);
940         err = ceph_mdsc_do_request(mdsc, old_dir, req);
941         if (!err && !req->r_reply_info.head->is_dentry) {
942                 /*
943                  * Normally d_move() is done by fill_trace (called by
944                  * do_request, above).  If there is no trace, we need
945                  * to do it here.
946                  */
947
948                 /* d_move screws up d_subdirs order */
949                 ceph_dir_clear_complete(new_dir);
950
951                 d_move(old_dentry, new_dentry);
952
953                 /* ensure target dentry is invalidated, despite
954                    rehashing bug in vfs_rename_dir */
955                 ceph_invalidate_dentry_lease(new_dentry);
956         }
957         ceph_mdsc_put_request(req);
958         return err;
959 }
960
961 /*
962  * Ensure a dentry lease will no longer revalidate.
963  */
964 void ceph_invalidate_dentry_lease(struct dentry *dentry)
965 {
966         spin_lock(&dentry->d_lock);
967         dentry->d_time = jiffies;
968         ceph_dentry(dentry)->lease_shared_gen = 0;
969         spin_unlock(&dentry->d_lock);
970 }
971
972 /*
973  * Check if dentry lease is valid.  If not, delete the lease.  Try to
974  * renew if the least is more than half up.
975  */
976 static int dentry_lease_is_valid(struct dentry *dentry)
977 {
978         struct ceph_dentry_info *di;
979         struct ceph_mds_session *s;
980         int valid = 0;
981         u32 gen;
982         unsigned long ttl;
983         struct ceph_mds_session *session = NULL;
984         struct inode *dir = NULL;
985         u32 seq = 0;
986
987         spin_lock(&dentry->d_lock);
988         di = ceph_dentry(dentry);
989         if (di->lease_session) {
990                 s = di->lease_session;
991                 spin_lock(&s->s_gen_ttl_lock);
992                 gen = s->s_cap_gen;
993                 ttl = s->s_cap_ttl;
994                 spin_unlock(&s->s_gen_ttl_lock);
995
996                 if (di->lease_gen == gen &&
997                     time_before(jiffies, dentry->d_time) &&
998                     time_before(jiffies, ttl)) {
999                         valid = 1;
1000                         if (di->lease_renew_after &&
1001                             time_after(jiffies, di->lease_renew_after)) {
1002                                 /* we should renew */
1003                                 dir = dentry->d_parent->d_inode;
1004                                 session = ceph_get_mds_session(s);
1005                                 seq = di->lease_seq;
1006                                 di->lease_renew_after = 0;
1007                                 di->lease_renew_from = jiffies;
1008                         }
1009                 }
1010         }
1011         spin_unlock(&dentry->d_lock);
1012
1013         if (session) {
1014                 ceph_mdsc_lease_send_msg(session, dir, dentry,
1015                                          CEPH_MDS_LEASE_RENEW, seq);
1016                 ceph_put_mds_session(session);
1017         }
1018         dout("dentry_lease_is_valid - dentry %p = %d\n", dentry, valid);
1019         return valid;
1020 }
1021
1022 /*
1023  * Check if directory-wide content lease/cap is valid.
1024  */
1025 static int dir_lease_is_valid(struct inode *dir, struct dentry *dentry)
1026 {
1027         struct ceph_inode_info *ci = ceph_inode(dir);
1028         struct ceph_dentry_info *di = ceph_dentry(dentry);
1029         int valid = 0;
1030
1031         spin_lock(&ci->i_ceph_lock);
1032         if (ci->i_shared_gen == di->lease_shared_gen)
1033                 valid = __ceph_caps_issued_mask(ci, CEPH_CAP_FILE_SHARED, 1);
1034         spin_unlock(&ci->i_ceph_lock);
1035         dout("dir_lease_is_valid dir %p v%u dentry %p v%u = %d\n",
1036              dir, (unsigned)ci->i_shared_gen, dentry,
1037              (unsigned)di->lease_shared_gen, valid);
1038         return valid;
1039 }
1040
1041 /*
1042  * Check if cached dentry can be trusted.
1043  */
1044 static int ceph_d_revalidate(struct dentry *dentry, unsigned int flags)
1045 {
1046         int valid = 0;
1047         struct inode *dir;
1048
1049         if (flags & LOOKUP_RCU)
1050                 return -ECHILD;
1051
1052         dout("d_revalidate %p '%.*s' inode %p offset %lld\n", dentry,
1053              dentry->d_name.len, dentry->d_name.name, dentry->d_inode,
1054              ceph_dentry(dentry)->offset);
1055
1056         dir = ceph_get_dentry_parent_inode(dentry);
1057
1058         /* always trust cached snapped dentries, snapdir dentry */
1059         if (ceph_snap(dir) != CEPH_NOSNAP) {
1060                 dout("d_revalidate %p '%.*s' inode %p is SNAPPED\n", dentry,
1061                      dentry->d_name.len, dentry->d_name.name, dentry->d_inode);
1062                 valid = 1;
1063         } else if (dentry->d_inode &&
1064                    ceph_snap(dentry->d_inode) == CEPH_SNAPDIR) {
1065                 valid = 1;
1066         } else if (dentry_lease_is_valid(dentry) ||
1067                    dir_lease_is_valid(dir, dentry)) {
1068                 valid = 1;
1069         }
1070
1071         dout("d_revalidate %p %s\n", dentry, valid ? "valid" : "invalid");
1072         if (valid)
1073                 ceph_dentry_lru_touch(dentry);
1074         else
1075                 d_drop(dentry);
1076         iput(dir);
1077         return valid;
1078 }
1079
1080 /*
1081  * Release our ceph_dentry_info.
1082  */
1083 static void ceph_d_release(struct dentry *dentry)
1084 {
1085         struct ceph_dentry_info *di = ceph_dentry(dentry);
1086
1087         dout("d_release %p\n", dentry);
1088         ceph_dentry_lru_del(dentry);
1089         if (di->lease_session)
1090                 ceph_put_mds_session(di->lease_session);
1091         kmem_cache_free(ceph_dentry_cachep, di);
1092         dentry->d_fsdata = NULL;
1093 }
1094
1095 static int ceph_snapdir_d_revalidate(struct dentry *dentry,
1096                                           unsigned int flags)
1097 {
1098         /*
1099          * Eventually, we'll want to revalidate snapped metadata
1100          * too... probably...
1101          */
1102         return 1;
1103 }
1104
1105 /*
1106  * Set/clear/test dir complete flag on the dir's dentry.
1107  */
1108 void ceph_dir_set_complete(struct inode *inode)
1109 {
1110         struct dentry *dentry = d_find_any_alias(inode);
1111         
1112         if (dentry && ceph_dentry(dentry) &&
1113             ceph_test_mount_opt(ceph_sb_to_client(dentry->d_sb), DCACHE)) {
1114                 dout(" marking %p (%p) complete\n", inode, dentry);
1115                 set_bit(CEPH_D_COMPLETE, &ceph_dentry(dentry)->flags);
1116         }
1117         dput(dentry);
1118 }
1119
1120 void ceph_dir_clear_complete(struct inode *inode)
1121 {
1122         struct dentry *dentry = d_find_any_alias(inode);
1123
1124         if (dentry && ceph_dentry(dentry)) {
1125                 dout(" marking %p (%p) complete\n", inode, dentry);
1126                 set_bit(CEPH_D_COMPLETE, &ceph_dentry(dentry)->flags);
1127         }
1128         dput(dentry);
1129 }
1130
1131 bool ceph_dir_test_complete(struct inode *inode)
1132 {
1133         struct dentry *dentry = d_find_any_alias(inode);
1134
1135         if (dentry && ceph_dentry(dentry)) {
1136                 dout(" marking %p (%p) NOT complete\n", inode, dentry);
1137                 clear_bit(CEPH_D_COMPLETE, &ceph_dentry(dentry)->flags);
1138         }
1139         dput(dentry);
1140         return false;
1141 }
1142
1143 /*
1144  * When the VFS prunes a dentry from the cache, we need to clear the
1145  * complete flag on the parent directory.
1146  *
1147  * Called under dentry->d_lock.
1148  */
1149 static void ceph_d_prune(struct dentry *dentry)
1150 {
1151         struct ceph_dentry_info *di;
1152
1153         dout("ceph_d_prune %p\n", dentry);
1154
1155         /* do we have a valid parent? */
1156         if (IS_ROOT(dentry))
1157                 return;
1158
1159         /* if we are not hashed, we don't affect D_COMPLETE */
1160         if (d_unhashed(dentry))
1161                 return;
1162
1163         /*
1164          * we hold d_lock, so d_parent is stable, and d_fsdata is never
1165          * cleared until d_release
1166          */
1167         di = ceph_dentry(dentry->d_parent);
1168         clear_bit(CEPH_D_COMPLETE, &di->flags);
1169 }
1170
1171 /*
1172  * read() on a dir.  This weird interface hack only works if mounted
1173  * with '-o dirstat'.
1174  */
1175 static ssize_t ceph_read_dir(struct file *file, char __user *buf, size_t size,
1176                              loff_t *ppos)
1177 {
1178         struct ceph_file_info *cf = file->private_data;
1179         struct inode *inode = file->f_dentry->d_inode;
1180         struct ceph_inode_info *ci = ceph_inode(inode);
1181         int left;
1182         const int bufsize = 1024;
1183
1184         if (!ceph_test_mount_opt(ceph_sb_to_client(inode->i_sb), DIRSTAT))
1185                 return -EISDIR;
1186
1187         if (!cf->dir_info) {
1188                 cf->dir_info = kmalloc(bufsize, GFP_NOFS);
1189                 if (!cf->dir_info)
1190                         return -ENOMEM;
1191                 cf->dir_info_len =
1192                         snprintf(cf->dir_info, bufsize,
1193                                 "entries:   %20lld\n"
1194                                 " files:    %20lld\n"
1195                                 " subdirs:  %20lld\n"
1196                                 "rentries:  %20lld\n"
1197                                 " rfiles:   %20lld\n"
1198                                 " rsubdirs: %20lld\n"
1199                                 "rbytes:    %20lld\n"
1200                                 "rctime:    %10ld.%09ld\n",
1201                                 ci->i_files + ci->i_subdirs,
1202                                 ci->i_files,
1203                                 ci->i_subdirs,
1204                                 ci->i_rfiles + ci->i_rsubdirs,
1205                                 ci->i_rfiles,
1206                                 ci->i_rsubdirs,
1207                                 ci->i_rbytes,
1208                                 (long)ci->i_rctime.tv_sec,
1209                                 (long)ci->i_rctime.tv_nsec);
1210         }
1211
1212         if (*ppos >= cf->dir_info_len)
1213                 return 0;
1214         size = min_t(unsigned, size, cf->dir_info_len-*ppos);
1215         left = copy_to_user(buf, cf->dir_info + *ppos, size);
1216         if (left == size)
1217                 return -EFAULT;
1218         *ppos += (size - left);
1219         return size - left;
1220 }
1221
1222 /*
1223  * an fsync() on a dir will wait for any uncommitted directory
1224  * operations to commit.
1225  */
1226 static int ceph_dir_fsync(struct file *file, loff_t start, loff_t end,
1227                           int datasync)
1228 {
1229         struct inode *inode = file->f_path.dentry->d_inode;
1230         struct ceph_inode_info *ci = ceph_inode(inode);
1231         struct list_head *head = &ci->i_unsafe_dirops;
1232         struct ceph_mds_request *req;
1233         u64 last_tid;
1234         int ret = 0;
1235
1236         dout("dir_fsync %p\n", inode);
1237         ret = filemap_write_and_wait_range(inode->i_mapping, start, end);
1238         if (ret)
1239                 return ret;
1240         mutex_lock(&inode->i_mutex);
1241
1242         spin_lock(&ci->i_unsafe_lock);
1243         if (list_empty(head))
1244                 goto out;
1245
1246         req = list_entry(head->prev,
1247                          struct ceph_mds_request, r_unsafe_dir_item);
1248         last_tid = req->r_tid;
1249
1250         do {
1251                 ceph_mdsc_get_request(req);
1252                 spin_unlock(&ci->i_unsafe_lock);
1253
1254                 dout("dir_fsync %p wait on tid %llu (until %llu)\n",
1255                      inode, req->r_tid, last_tid);
1256                 if (req->r_timeout) {
1257                         ret = wait_for_completion_timeout(
1258                                 &req->r_safe_completion, req->r_timeout);
1259                         if (ret > 0)
1260                                 ret = 0;
1261                         else if (ret == 0)
1262                                 ret = -EIO;  /* timed out */
1263                 } else {
1264                         wait_for_completion(&req->r_safe_completion);
1265                 }
1266                 ceph_mdsc_put_request(req);
1267
1268                 spin_lock(&ci->i_unsafe_lock);
1269                 if (ret || list_empty(head))
1270                         break;
1271                 req = list_entry(head->next,
1272                                  struct ceph_mds_request, r_unsafe_dir_item);
1273         } while (req->r_tid < last_tid);
1274 out:
1275         spin_unlock(&ci->i_unsafe_lock);
1276         mutex_unlock(&inode->i_mutex);
1277
1278         return ret;
1279 }
1280
1281 /*
1282  * We maintain a private dentry LRU.
1283  *
1284  * FIXME: this needs to be changed to a per-mds lru to be useful.
1285  */
1286 void ceph_dentry_lru_add(struct dentry *dn)
1287 {
1288         struct ceph_dentry_info *di = ceph_dentry(dn);
1289         struct ceph_mds_client *mdsc;
1290
1291         dout("dentry_lru_add %p %p '%.*s'\n", di, dn,
1292              dn->d_name.len, dn->d_name.name);
1293         mdsc = ceph_sb_to_client(dn->d_sb)->mdsc;
1294         spin_lock(&mdsc->dentry_lru_lock);
1295         list_add_tail(&di->lru, &mdsc->dentry_lru);
1296         mdsc->num_dentry++;
1297         spin_unlock(&mdsc->dentry_lru_lock);
1298 }
1299
1300 void ceph_dentry_lru_touch(struct dentry *dn)
1301 {
1302         struct ceph_dentry_info *di = ceph_dentry(dn);
1303         struct ceph_mds_client *mdsc;
1304
1305         dout("dentry_lru_touch %p %p '%.*s' (offset %lld)\n", di, dn,
1306              dn->d_name.len, dn->d_name.name, di->offset);
1307         mdsc = ceph_sb_to_client(dn->d_sb)->mdsc;
1308         spin_lock(&mdsc->dentry_lru_lock);
1309         list_move_tail(&di->lru, &mdsc->dentry_lru);
1310         spin_unlock(&mdsc->dentry_lru_lock);
1311 }
1312
1313 void ceph_dentry_lru_del(struct dentry *dn)
1314 {
1315         struct ceph_dentry_info *di = ceph_dentry(dn);
1316         struct ceph_mds_client *mdsc;
1317
1318         dout("dentry_lru_del %p %p '%.*s'\n", di, dn,
1319              dn->d_name.len, dn->d_name.name);
1320         mdsc = ceph_sb_to_client(dn->d_sb)->mdsc;
1321         spin_lock(&mdsc->dentry_lru_lock);
1322         list_del_init(&di->lru);
1323         mdsc->num_dentry--;
1324         spin_unlock(&mdsc->dentry_lru_lock);
1325 }
1326
1327 /*
1328  * Return name hash for a given dentry.  This is dependent on
1329  * the parent directory's hash function.
1330  */
1331 unsigned ceph_dentry_hash(struct inode *dir, struct dentry *dn)
1332 {
1333         struct ceph_inode_info *dci = ceph_inode(dir);
1334
1335         switch (dci->i_dir_layout.dl_dir_hash) {
1336         case 0: /* for backward compat */
1337         case CEPH_STR_HASH_LINUX:
1338                 return dn->d_name.hash;
1339
1340         default:
1341                 return ceph_str_hash(dci->i_dir_layout.dl_dir_hash,
1342                                      dn->d_name.name, dn->d_name.len);
1343         }
1344 }
1345
1346 const struct file_operations ceph_dir_fops = {
1347         .read = ceph_read_dir,
1348         .readdir = ceph_readdir,
1349         .llseek = ceph_dir_llseek,
1350         .open = ceph_open,
1351         .release = ceph_release,
1352         .unlocked_ioctl = ceph_ioctl,
1353         .fsync = ceph_dir_fsync,
1354 };
1355
1356 const struct inode_operations ceph_dir_iops = {
1357         .lookup = ceph_lookup,
1358         .permission = ceph_permission,
1359         .getattr = ceph_getattr,
1360         .setattr = ceph_setattr,
1361         .setxattr = ceph_setxattr,
1362         .getxattr = ceph_getxattr,
1363         .listxattr = ceph_listxattr,
1364         .removexattr = ceph_removexattr,
1365         .mknod = ceph_mknod,
1366         .symlink = ceph_symlink,
1367         .mkdir = ceph_mkdir,
1368         .link = ceph_link,
1369         .unlink = ceph_unlink,
1370         .rmdir = ceph_unlink,
1371         .rename = ceph_rename,
1372         .create = ceph_create,
1373         .atomic_open = ceph_atomic_open,
1374 };
1375
1376 const struct dentry_operations ceph_dentry_ops = {
1377         .d_revalidate = ceph_d_revalidate,
1378         .d_release = ceph_d_release,
1379         .d_prune = ceph_d_prune,
1380 };
1381
1382 const struct dentry_operations ceph_snapdir_dentry_ops = {
1383         .d_revalidate = ceph_snapdir_d_revalidate,
1384         .d_release = ceph_d_release,
1385 };
1386
1387 const struct dentry_operations ceph_snap_dentry_ops = {
1388         .d_release = ceph_d_release,
1389         .d_prune = ceph_d_prune,
1390 };