xfs: implement iomap based buffered write path
[cascardo/linux.git] / fs / xfs / xfs_iops.c
1 /*
2  * Copyright (c) 2000-2005 Silicon Graphics, Inc.
3  * All Rights Reserved.
4  *
5  * This program is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU General Public License as
7  * published by the Free Software Foundation.
8  *
9  * This program is distributed in the hope that it would be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write the Free Software Foundation,
16  * Inc.,  51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17  */
18 #include "xfs.h"
19 #include "xfs_fs.h"
20 #include "xfs_shared.h"
21 #include "xfs_format.h"
22 #include "xfs_log_format.h"
23 #include "xfs_trans_resv.h"
24 #include "xfs_mount.h"
25 #include "xfs_da_format.h"
26 #include "xfs_inode.h"
27 #include "xfs_bmap.h"
28 #include "xfs_bmap_util.h"
29 #include "xfs_acl.h"
30 #include "xfs_quota.h"
31 #include "xfs_error.h"
32 #include "xfs_attr.h"
33 #include "xfs_trans.h"
34 #include "xfs_trace.h"
35 #include "xfs_icache.h"
36 #include "xfs_symlink.h"
37 #include "xfs_da_btree.h"
38 #include "xfs_dir2.h"
39 #include "xfs_trans_space.h"
40 #include "xfs_pnfs.h"
41 #include "xfs_iomap.h"
42
43 #include <linux/capability.h>
44 #include <linux/xattr.h>
45 #include <linux/posix_acl.h>
46 #include <linux/security.h>
47 #include <linux/fiemap.h>
48 #include <linux/slab.h>
49
50 /*
51  * Directories have different lock order w.r.t. mmap_sem compared to regular
52  * files. This is due to readdir potentially triggering page faults on a user
53  * buffer inside filldir(), and this happens with the ilock on the directory
54  * held. For regular files, the lock order is the other way around - the
55  * mmap_sem is taken during the page fault, and then we lock the ilock to do
56  * block mapping. Hence we need a different class for the directory ilock so
57  * that lockdep can tell them apart.
58  */
59 static struct lock_class_key xfs_nondir_ilock_class;
60 static struct lock_class_key xfs_dir_ilock_class;
61
62 static int
63 xfs_initxattrs(
64         struct inode            *inode,
65         const struct xattr      *xattr_array,
66         void                    *fs_info)
67 {
68         const struct xattr      *xattr;
69         struct xfs_inode        *ip = XFS_I(inode);
70         int                     error = 0;
71
72         for (xattr = xattr_array; xattr->name != NULL; xattr++) {
73                 error = xfs_attr_set(ip, xattr->name, xattr->value,
74                                       xattr->value_len, ATTR_SECURE);
75                 if (error < 0)
76                         break;
77         }
78         return error;
79 }
80
81 /*
82  * Hook in SELinux.  This is not quite correct yet, what we really need
83  * here (as we do for default ACLs) is a mechanism by which creation of
84  * these attrs can be journalled at inode creation time (along with the
85  * inode, of course, such that log replay can't cause these to be lost).
86  */
87
88 STATIC int
89 xfs_init_security(
90         struct inode    *inode,
91         struct inode    *dir,
92         const struct qstr *qstr)
93 {
94         return security_inode_init_security(inode, dir, qstr,
95                                              &xfs_initxattrs, NULL);
96 }
97
98 static void
99 xfs_dentry_to_name(
100         struct xfs_name *namep,
101         struct dentry   *dentry,
102         int             mode)
103 {
104         namep->name = dentry->d_name.name;
105         namep->len = dentry->d_name.len;
106         namep->type = xfs_mode_to_ftype[(mode & S_IFMT) >> S_SHIFT];
107 }
108
109 STATIC void
110 xfs_cleanup_inode(
111         struct inode    *dir,
112         struct inode    *inode,
113         struct dentry   *dentry)
114 {
115         struct xfs_name teardown;
116
117         /* Oh, the horror.
118          * If we can't add the ACL or we fail in
119          * xfs_init_security we must back out.
120          * ENOSPC can hit here, among other things.
121          */
122         xfs_dentry_to_name(&teardown, dentry, 0);
123
124         xfs_remove(XFS_I(dir), &teardown, XFS_I(inode));
125 }
126
127 STATIC int
128 xfs_generic_create(
129         struct inode    *dir,
130         struct dentry   *dentry,
131         umode_t         mode,
132         dev_t           rdev,
133         bool            tmpfile)        /* unnamed file */
134 {
135         struct inode    *inode;
136         struct xfs_inode *ip = NULL;
137         struct posix_acl *default_acl, *acl;
138         struct xfs_name name;
139         int             error;
140
141         /*
142          * Irix uses Missed'em'V split, but doesn't want to see
143          * the upper 5 bits of (14bit) major.
144          */
145         if (S_ISCHR(mode) || S_ISBLK(mode)) {
146                 if (unlikely(!sysv_valid_dev(rdev) || MAJOR(rdev) & ~0x1ff))
147                         return -EINVAL;
148                 rdev = sysv_encode_dev(rdev);
149         } else {
150                 rdev = 0;
151         }
152
153         error = posix_acl_create(dir, &mode, &default_acl, &acl);
154         if (error)
155                 return error;
156
157         if (!tmpfile) {
158                 xfs_dentry_to_name(&name, dentry, mode);
159                 error = xfs_create(XFS_I(dir), &name, mode, rdev, &ip);
160         } else {
161                 error = xfs_create_tmpfile(XFS_I(dir), dentry, mode, &ip);
162         }
163         if (unlikely(error))
164                 goto out_free_acl;
165
166         inode = VFS_I(ip);
167
168         error = xfs_init_security(inode, dir, &dentry->d_name);
169         if (unlikely(error))
170                 goto out_cleanup_inode;
171
172 #ifdef CONFIG_XFS_POSIX_ACL
173         if (default_acl) {
174                 error = xfs_set_acl(inode, default_acl, ACL_TYPE_DEFAULT);
175                 if (error)
176                         goto out_cleanup_inode;
177         }
178         if (acl) {
179                 error = xfs_set_acl(inode, acl, ACL_TYPE_ACCESS);
180                 if (error)
181                         goto out_cleanup_inode;
182         }
183 #endif
184
185         xfs_setup_iops(ip);
186
187         if (tmpfile)
188                 d_tmpfile(dentry, inode);
189         else
190                 d_instantiate(dentry, inode);
191
192         xfs_finish_inode_setup(ip);
193
194  out_free_acl:
195         if (default_acl)
196                 posix_acl_release(default_acl);
197         if (acl)
198                 posix_acl_release(acl);
199         return error;
200
201  out_cleanup_inode:
202         xfs_finish_inode_setup(ip);
203         if (!tmpfile)
204                 xfs_cleanup_inode(dir, inode, dentry);
205         iput(inode);
206         goto out_free_acl;
207 }
208
209 STATIC int
210 xfs_vn_mknod(
211         struct inode    *dir,
212         struct dentry   *dentry,
213         umode_t         mode,
214         dev_t           rdev)
215 {
216         return xfs_generic_create(dir, dentry, mode, rdev, false);
217 }
218
219 STATIC int
220 xfs_vn_create(
221         struct inode    *dir,
222         struct dentry   *dentry,
223         umode_t         mode,
224         bool            flags)
225 {
226         return xfs_vn_mknod(dir, dentry, mode, 0);
227 }
228
229 STATIC int
230 xfs_vn_mkdir(
231         struct inode    *dir,
232         struct dentry   *dentry,
233         umode_t         mode)
234 {
235         return xfs_vn_mknod(dir, dentry, mode|S_IFDIR, 0);
236 }
237
238 STATIC struct dentry *
239 xfs_vn_lookup(
240         struct inode    *dir,
241         struct dentry   *dentry,
242         unsigned int flags)
243 {
244         struct xfs_inode *cip;
245         struct xfs_name name;
246         int             error;
247
248         if (dentry->d_name.len >= MAXNAMELEN)
249                 return ERR_PTR(-ENAMETOOLONG);
250
251         xfs_dentry_to_name(&name, dentry, 0);
252         error = xfs_lookup(XFS_I(dir), &name, &cip, NULL);
253         if (unlikely(error)) {
254                 if (unlikely(error != -ENOENT))
255                         return ERR_PTR(error);
256                 d_add(dentry, NULL);
257                 return NULL;
258         }
259
260         return d_splice_alias(VFS_I(cip), dentry);
261 }
262
263 STATIC struct dentry *
264 xfs_vn_ci_lookup(
265         struct inode    *dir,
266         struct dentry   *dentry,
267         unsigned int flags)
268 {
269         struct xfs_inode *ip;
270         struct xfs_name xname;
271         struct xfs_name ci_name;
272         struct qstr     dname;
273         int             error;
274
275         if (dentry->d_name.len >= MAXNAMELEN)
276                 return ERR_PTR(-ENAMETOOLONG);
277
278         xfs_dentry_to_name(&xname, dentry, 0);
279         error = xfs_lookup(XFS_I(dir), &xname, &ip, &ci_name);
280         if (unlikely(error)) {
281                 if (unlikely(error != -ENOENT))
282                         return ERR_PTR(error);
283                 /*
284                  * call d_add(dentry, NULL) here when d_drop_negative_children
285                  * is called in xfs_vn_mknod (ie. allow negative dentries
286                  * with CI filesystems).
287                  */
288                 return NULL;
289         }
290
291         /* if exact match, just splice and exit */
292         if (!ci_name.name)
293                 return d_splice_alias(VFS_I(ip), dentry);
294
295         /* else case-insensitive match... */
296         dname.name = ci_name.name;
297         dname.len = ci_name.len;
298         dentry = d_add_ci(dentry, VFS_I(ip), &dname);
299         kmem_free(ci_name.name);
300         return dentry;
301 }
302
303 STATIC int
304 xfs_vn_link(
305         struct dentry   *old_dentry,
306         struct inode    *dir,
307         struct dentry   *dentry)
308 {
309         struct inode    *inode = d_inode(old_dentry);
310         struct xfs_name name;
311         int             error;
312
313         xfs_dentry_to_name(&name, dentry, inode->i_mode);
314
315         error = xfs_link(XFS_I(dir), XFS_I(inode), &name);
316         if (unlikely(error))
317                 return error;
318
319         ihold(inode);
320         d_instantiate(dentry, inode);
321         return 0;
322 }
323
324 STATIC int
325 xfs_vn_unlink(
326         struct inode    *dir,
327         struct dentry   *dentry)
328 {
329         struct xfs_name name;
330         int             error;
331
332         xfs_dentry_to_name(&name, dentry, 0);
333
334         error = xfs_remove(XFS_I(dir), &name, XFS_I(d_inode(dentry)));
335         if (error)
336                 return error;
337
338         /*
339          * With unlink, the VFS makes the dentry "negative": no inode,
340          * but still hashed. This is incompatible with case-insensitive
341          * mode, so invalidate (unhash) the dentry in CI-mode.
342          */
343         if (xfs_sb_version_hasasciici(&XFS_M(dir->i_sb)->m_sb))
344                 d_invalidate(dentry);
345         return 0;
346 }
347
348 STATIC int
349 xfs_vn_symlink(
350         struct inode    *dir,
351         struct dentry   *dentry,
352         const char      *symname)
353 {
354         struct inode    *inode;
355         struct xfs_inode *cip = NULL;
356         struct xfs_name name;
357         int             error;
358         umode_t         mode;
359
360         mode = S_IFLNK |
361                 (irix_symlink_mode ? 0777 & ~current_umask() : S_IRWXUGO);
362         xfs_dentry_to_name(&name, dentry, mode);
363
364         error = xfs_symlink(XFS_I(dir), &name, symname, mode, &cip);
365         if (unlikely(error))
366                 goto out;
367
368         inode = VFS_I(cip);
369
370         error = xfs_init_security(inode, dir, &dentry->d_name);
371         if (unlikely(error))
372                 goto out_cleanup_inode;
373
374         xfs_setup_iops(cip);
375
376         d_instantiate(dentry, inode);
377         xfs_finish_inode_setup(cip);
378         return 0;
379
380  out_cleanup_inode:
381         xfs_finish_inode_setup(cip);
382         xfs_cleanup_inode(dir, inode, dentry);
383         iput(inode);
384  out:
385         return error;
386 }
387
388 STATIC int
389 xfs_vn_rename(
390         struct inode    *odir,
391         struct dentry   *odentry,
392         struct inode    *ndir,
393         struct dentry   *ndentry,
394         unsigned int    flags)
395 {
396         struct inode    *new_inode = d_inode(ndentry);
397         int             omode = 0;
398         struct xfs_name oname;
399         struct xfs_name nname;
400
401         if (flags & ~(RENAME_NOREPLACE | RENAME_EXCHANGE | RENAME_WHITEOUT))
402                 return -EINVAL;
403
404         /* if we are exchanging files, we need to set i_mode of both files */
405         if (flags & RENAME_EXCHANGE)
406                 omode = d_inode(ndentry)->i_mode;
407
408         xfs_dentry_to_name(&oname, odentry, omode);
409         xfs_dentry_to_name(&nname, ndentry, d_inode(odentry)->i_mode);
410
411         return xfs_rename(XFS_I(odir), &oname, XFS_I(d_inode(odentry)),
412                           XFS_I(ndir), &nname,
413                           new_inode ? XFS_I(new_inode) : NULL, flags);
414 }
415
416 /*
417  * careful here - this function can get called recursively, so
418  * we need to be very careful about how much stack we use.
419  * uio is kmalloced for this reason...
420  */
421 STATIC const char *
422 xfs_vn_get_link(
423         struct dentry           *dentry,
424         struct inode            *inode,
425         struct delayed_call     *done)
426 {
427         char                    *link;
428         int                     error = -ENOMEM;
429
430         if (!dentry)
431                 return ERR_PTR(-ECHILD);
432
433         link = kmalloc(MAXPATHLEN+1, GFP_KERNEL);
434         if (!link)
435                 goto out_err;
436
437         error = xfs_readlink(XFS_I(d_inode(dentry)), link);
438         if (unlikely(error))
439                 goto out_kfree;
440
441         set_delayed_call(done, kfree_link, link);
442         return link;
443
444  out_kfree:
445         kfree(link);
446  out_err:
447         return ERR_PTR(error);
448 }
449
450 STATIC const char *
451 xfs_vn_get_link_inline(
452         struct dentry           *dentry,
453         struct inode            *inode,
454         struct delayed_call     *done)
455 {
456         ASSERT(XFS_I(inode)->i_df.if_flags & XFS_IFINLINE);
457         return XFS_I(inode)->i_df.if_u1.if_data;
458 }
459
460 STATIC int
461 xfs_vn_getattr(
462         struct vfsmount         *mnt,
463         struct dentry           *dentry,
464         struct kstat            *stat)
465 {
466         struct inode            *inode = d_inode(dentry);
467         struct xfs_inode        *ip = XFS_I(inode);
468         struct xfs_mount        *mp = ip->i_mount;
469
470         trace_xfs_getattr(ip);
471
472         if (XFS_FORCED_SHUTDOWN(mp))
473                 return -EIO;
474
475         stat->size = XFS_ISIZE(ip);
476         stat->dev = inode->i_sb->s_dev;
477         stat->mode = inode->i_mode;
478         stat->nlink = inode->i_nlink;
479         stat->uid = inode->i_uid;
480         stat->gid = inode->i_gid;
481         stat->ino = ip->i_ino;
482         stat->atime = inode->i_atime;
483         stat->mtime = inode->i_mtime;
484         stat->ctime = inode->i_ctime;
485         stat->blocks =
486                 XFS_FSB_TO_BB(mp, ip->i_d.di_nblocks + ip->i_delayed_blks);
487
488
489         switch (inode->i_mode & S_IFMT) {
490         case S_IFBLK:
491         case S_IFCHR:
492                 stat->blksize = BLKDEV_IOSIZE;
493                 stat->rdev = MKDEV(sysv_major(ip->i_df.if_u2.if_rdev) & 0x1ff,
494                                    sysv_minor(ip->i_df.if_u2.if_rdev));
495                 break;
496         default:
497                 if (XFS_IS_REALTIME_INODE(ip)) {
498                         /*
499                          * If the file blocks are being allocated from a
500                          * realtime volume, then return the inode's realtime
501                          * extent size or the realtime volume's extent size.
502                          */
503                         stat->blksize =
504                                 xfs_get_extsz_hint(ip) << mp->m_sb.sb_blocklog;
505                 } else
506                         stat->blksize = xfs_preferred_iosize(mp);
507                 stat->rdev = 0;
508                 break;
509         }
510
511         return 0;
512 }
513
514 static void
515 xfs_setattr_mode(
516         struct xfs_inode        *ip,
517         struct iattr            *iattr)
518 {
519         struct inode            *inode = VFS_I(ip);
520         umode_t                 mode = iattr->ia_mode;
521
522         ASSERT(xfs_isilocked(ip, XFS_ILOCK_EXCL));
523
524         inode->i_mode &= S_IFMT;
525         inode->i_mode |= mode & ~S_IFMT;
526 }
527
528 void
529 xfs_setattr_time(
530         struct xfs_inode        *ip,
531         struct iattr            *iattr)
532 {
533         struct inode            *inode = VFS_I(ip);
534
535         ASSERT(xfs_isilocked(ip, XFS_ILOCK_EXCL));
536
537         if (iattr->ia_valid & ATTR_ATIME)
538                 inode->i_atime = iattr->ia_atime;
539         if (iattr->ia_valid & ATTR_CTIME)
540                 inode->i_ctime = iattr->ia_ctime;
541         if (iattr->ia_valid & ATTR_MTIME)
542                 inode->i_mtime = iattr->ia_mtime;
543 }
544
545 int
546 xfs_setattr_nonsize(
547         struct xfs_inode        *ip,
548         struct iattr            *iattr,
549         int                     flags)
550 {
551         xfs_mount_t             *mp = ip->i_mount;
552         struct inode            *inode = VFS_I(ip);
553         int                     mask = iattr->ia_valid;
554         xfs_trans_t             *tp;
555         int                     error;
556         kuid_t                  uid = GLOBAL_ROOT_UID, iuid = GLOBAL_ROOT_UID;
557         kgid_t                  gid = GLOBAL_ROOT_GID, igid = GLOBAL_ROOT_GID;
558         struct xfs_dquot        *udqp = NULL, *gdqp = NULL;
559         struct xfs_dquot        *olddquot1 = NULL, *olddquot2 = NULL;
560
561         trace_xfs_setattr(ip);
562
563         /* If acls are being inherited, we already have this checked */
564         if (!(flags & XFS_ATTR_NOACL)) {
565                 if (mp->m_flags & XFS_MOUNT_RDONLY)
566                         return -EROFS;
567
568                 if (XFS_FORCED_SHUTDOWN(mp))
569                         return -EIO;
570
571                 error = inode_change_ok(inode, iattr);
572                 if (error)
573                         return error;
574         }
575
576         ASSERT((mask & ATTR_SIZE) == 0);
577
578         /*
579          * If disk quotas is on, we make sure that the dquots do exist on disk,
580          * before we start any other transactions. Trying to do this later
581          * is messy. We don't care to take a readlock to look at the ids
582          * in inode here, because we can't hold it across the trans_reserve.
583          * If the IDs do change before we take the ilock, we're covered
584          * because the i_*dquot fields will get updated anyway.
585          */
586         if (XFS_IS_QUOTA_ON(mp) && (mask & (ATTR_UID|ATTR_GID))) {
587                 uint    qflags = 0;
588
589                 if ((mask & ATTR_UID) && XFS_IS_UQUOTA_ON(mp)) {
590                         uid = iattr->ia_uid;
591                         qflags |= XFS_QMOPT_UQUOTA;
592                 } else {
593                         uid = inode->i_uid;
594                 }
595                 if ((mask & ATTR_GID) && XFS_IS_GQUOTA_ON(mp)) {
596                         gid = iattr->ia_gid;
597                         qflags |= XFS_QMOPT_GQUOTA;
598                 }  else {
599                         gid = inode->i_gid;
600                 }
601
602                 /*
603                  * We take a reference when we initialize udqp and gdqp,
604                  * so it is important that we never blindly double trip on
605                  * the same variable. See xfs_create() for an example.
606                  */
607                 ASSERT(udqp == NULL);
608                 ASSERT(gdqp == NULL);
609                 error = xfs_qm_vop_dqalloc(ip, xfs_kuid_to_uid(uid),
610                                            xfs_kgid_to_gid(gid),
611                                            xfs_get_projid(ip),
612                                            qflags, &udqp, &gdqp, NULL);
613                 if (error)
614                         return error;
615         }
616
617         error = xfs_trans_alloc(mp, &M_RES(mp)->tr_ichange, 0, 0, 0, &tp);
618         if (error)
619                 goto out_dqrele;
620
621         xfs_ilock(ip, XFS_ILOCK_EXCL);
622         xfs_trans_ijoin(tp, ip, 0);
623
624         /*
625          * Change file ownership.  Must be the owner or privileged.
626          */
627         if (mask & (ATTR_UID|ATTR_GID)) {
628                 /*
629                  * These IDs could have changed since we last looked at them.
630                  * But, we're assured that if the ownership did change
631                  * while we didn't have the inode locked, inode's dquot(s)
632                  * would have changed also.
633                  */
634                 iuid = inode->i_uid;
635                 igid = inode->i_gid;
636                 gid = (mask & ATTR_GID) ? iattr->ia_gid : igid;
637                 uid = (mask & ATTR_UID) ? iattr->ia_uid : iuid;
638
639                 /*
640                  * Do a quota reservation only if uid/gid is actually
641                  * going to change.
642                  */
643                 if (XFS_IS_QUOTA_RUNNING(mp) &&
644                     ((XFS_IS_UQUOTA_ON(mp) && !uid_eq(iuid, uid)) ||
645                      (XFS_IS_GQUOTA_ON(mp) && !gid_eq(igid, gid)))) {
646                         ASSERT(tp);
647                         error = xfs_qm_vop_chown_reserve(tp, ip, udqp, gdqp,
648                                                 NULL, capable(CAP_FOWNER) ?
649                                                 XFS_QMOPT_FORCE_RES : 0);
650                         if (error)      /* out of quota */
651                                 goto out_cancel;
652                 }
653         }
654
655         /*
656          * Change file ownership.  Must be the owner or privileged.
657          */
658         if (mask & (ATTR_UID|ATTR_GID)) {
659                 /*
660                  * CAP_FSETID overrides the following restrictions:
661                  *
662                  * The set-user-ID and set-group-ID bits of a file will be
663                  * cleared upon successful return from chown()
664                  */
665                 if ((inode->i_mode & (S_ISUID|S_ISGID)) &&
666                     !capable(CAP_FSETID))
667                         inode->i_mode &= ~(S_ISUID|S_ISGID);
668
669                 /*
670                  * Change the ownerships and register quota modifications
671                  * in the transaction.
672                  */
673                 if (!uid_eq(iuid, uid)) {
674                         if (XFS_IS_QUOTA_RUNNING(mp) && XFS_IS_UQUOTA_ON(mp)) {
675                                 ASSERT(mask & ATTR_UID);
676                                 ASSERT(udqp);
677                                 olddquot1 = xfs_qm_vop_chown(tp, ip,
678                                                         &ip->i_udquot, udqp);
679                         }
680                         ip->i_d.di_uid = xfs_kuid_to_uid(uid);
681                         inode->i_uid = uid;
682                 }
683                 if (!gid_eq(igid, gid)) {
684                         if (XFS_IS_QUOTA_RUNNING(mp) && XFS_IS_GQUOTA_ON(mp)) {
685                                 ASSERT(xfs_sb_version_has_pquotino(&mp->m_sb) ||
686                                        !XFS_IS_PQUOTA_ON(mp));
687                                 ASSERT(mask & ATTR_GID);
688                                 ASSERT(gdqp);
689                                 olddquot2 = xfs_qm_vop_chown(tp, ip,
690                                                         &ip->i_gdquot, gdqp);
691                         }
692                         ip->i_d.di_gid = xfs_kgid_to_gid(gid);
693                         inode->i_gid = gid;
694                 }
695         }
696
697         if (mask & ATTR_MODE)
698                 xfs_setattr_mode(ip, iattr);
699         if (mask & (ATTR_ATIME|ATTR_CTIME|ATTR_MTIME))
700                 xfs_setattr_time(ip, iattr);
701
702         xfs_trans_log_inode(tp, ip, XFS_ILOG_CORE);
703
704         XFS_STATS_INC(mp, xs_ig_attrchg);
705
706         if (mp->m_flags & XFS_MOUNT_WSYNC)
707                 xfs_trans_set_sync(tp);
708         error = xfs_trans_commit(tp);
709
710         xfs_iunlock(ip, XFS_ILOCK_EXCL);
711
712         /*
713          * Release any dquot(s) the inode had kept before chown.
714          */
715         xfs_qm_dqrele(olddquot1);
716         xfs_qm_dqrele(olddquot2);
717         xfs_qm_dqrele(udqp);
718         xfs_qm_dqrele(gdqp);
719
720         if (error)
721                 return error;
722
723         /*
724          * XXX(hch): Updating the ACL entries is not atomic vs the i_mode
725          *           update.  We could avoid this with linked transactions
726          *           and passing down the transaction pointer all the way
727          *           to attr_set.  No previous user of the generic
728          *           Posix ACL code seems to care about this issue either.
729          */
730         if ((mask & ATTR_MODE) && !(flags & XFS_ATTR_NOACL)) {
731                 error = posix_acl_chmod(inode, inode->i_mode);
732                 if (error)
733                         return error;
734         }
735
736         return 0;
737
738 out_cancel:
739         xfs_trans_cancel(tp);
740 out_dqrele:
741         xfs_qm_dqrele(udqp);
742         xfs_qm_dqrele(gdqp);
743         return error;
744 }
745
746 /*
747  * Truncate file.  Must have write permission and not be a directory.
748  */
749 int
750 xfs_setattr_size(
751         struct xfs_inode        *ip,
752         struct iattr            *iattr)
753 {
754         struct xfs_mount        *mp = ip->i_mount;
755         struct inode            *inode = VFS_I(ip);
756         xfs_off_t               oldsize, newsize;
757         struct xfs_trans        *tp;
758         int                     error;
759         uint                    lock_flags = 0;
760         bool                    did_zeroing = false;
761
762         trace_xfs_setattr(ip);
763
764         if (mp->m_flags & XFS_MOUNT_RDONLY)
765                 return -EROFS;
766
767         if (XFS_FORCED_SHUTDOWN(mp))
768                 return -EIO;
769
770         error = inode_change_ok(inode, iattr);
771         if (error)
772                 return error;
773
774         ASSERT(xfs_isilocked(ip, XFS_IOLOCK_EXCL));
775         ASSERT(xfs_isilocked(ip, XFS_MMAPLOCK_EXCL));
776         ASSERT(S_ISREG(inode->i_mode));
777         ASSERT((iattr->ia_valid & (ATTR_UID|ATTR_GID|ATTR_ATIME|ATTR_ATIME_SET|
778                 ATTR_MTIME_SET|ATTR_KILL_PRIV|ATTR_TIMES_SET)) == 0);
779
780         oldsize = inode->i_size;
781         newsize = iattr->ia_size;
782
783         /*
784          * Short circuit the truncate case for zero length files.
785          */
786         if (newsize == 0 && oldsize == 0 && ip->i_d.di_nextents == 0) {
787                 if (!(iattr->ia_valid & (ATTR_CTIME|ATTR_MTIME)))
788                         return 0;
789
790                 /*
791                  * Use the regular setattr path to update the timestamps.
792                  */
793                 iattr->ia_valid &= ~ATTR_SIZE;
794                 return xfs_setattr_nonsize(ip, iattr, 0);
795         }
796
797         /*
798          * Make sure that the dquots are attached to the inode.
799          */
800         error = xfs_qm_dqattach(ip, 0);
801         if (error)
802                 return error;
803
804         /*
805          * Wait for all direct I/O to complete.
806          */
807         inode_dio_wait(inode);
808
809         /*
810          * File data changes must be complete before we start the transaction to
811          * modify the inode.  This needs to be done before joining the inode to
812          * the transaction because the inode cannot be unlocked once it is a
813          * part of the transaction.
814          *
815          * Start with zeroing any data beyond EOF that we may expose on file
816          * extension, or zeroing out the rest of the block on a downward
817          * truncate.
818          */
819         if (newsize > oldsize) {
820                 error = xfs_zero_eof(ip, newsize, oldsize, &did_zeroing);
821         } else {
822                 if (IS_DAX(inode)) {
823                         error = dax_truncate_page(inode, newsize,
824                                         xfs_get_blocks_direct);
825                 } else {
826                         error = iomap_truncate_page(inode, newsize,
827                                         &did_zeroing, &xfs_iomap_ops);
828                 }
829         }
830
831         if (error)
832                 return error;
833
834         /*
835          * We are going to log the inode size change in this transaction so
836          * any previous writes that are beyond the on disk EOF and the new
837          * EOF that have not been written out need to be written here.  If we
838          * do not write the data out, we expose ourselves to the null files
839          * problem. Note that this includes any block zeroing we did above;
840          * otherwise those blocks may not be zeroed after a crash.
841          */
842         if (did_zeroing ||
843             (newsize > ip->i_d.di_size && oldsize != ip->i_d.di_size)) {
844                 error = filemap_write_and_wait_range(VFS_I(ip)->i_mapping,
845                                                       ip->i_d.di_size, newsize);
846                 if (error)
847                         return error;
848         }
849
850         /*
851          * We've already locked out new page faults, so now we can safely remove
852          * pages from the page cache knowing they won't get refaulted until we
853          * drop the XFS_MMAP_EXCL lock after the extent manipulations are
854          * complete. The truncate_setsize() call also cleans partial EOF page
855          * PTEs on extending truncates and hence ensures sub-page block size
856          * filesystems are correctly handled, too.
857          *
858          * We have to do all the page cache truncate work outside the
859          * transaction context as the "lock" order is page lock->log space
860          * reservation as defined by extent allocation in the writeback path.
861          * Hence a truncate can fail with ENOMEM from xfs_trans_alloc(), but
862          * having already truncated the in-memory version of the file (i.e. made
863          * user visible changes). There's not much we can do about this, except
864          * to hope that the caller sees ENOMEM and retries the truncate
865          * operation.
866          */
867         truncate_setsize(inode, newsize);
868
869         error = xfs_trans_alloc(mp, &M_RES(mp)->tr_itruncate, 0, 0, 0, &tp);
870         if (error)
871                 return error;
872
873         lock_flags |= XFS_ILOCK_EXCL;
874         xfs_ilock(ip, XFS_ILOCK_EXCL);
875         xfs_trans_ijoin(tp, ip, 0);
876
877         /*
878          * Only change the c/mtime if we are changing the size or we are
879          * explicitly asked to change it.  This handles the semantic difference
880          * between truncate() and ftruncate() as implemented in the VFS.
881          *
882          * The regular truncate() case without ATTR_CTIME and ATTR_MTIME is a
883          * special case where we need to update the times despite not having
884          * these flags set.  For all other operations the VFS set these flags
885          * explicitly if it wants a timestamp update.
886          */
887         if (newsize != oldsize &&
888             !(iattr->ia_valid & (ATTR_CTIME | ATTR_MTIME))) {
889                 iattr->ia_ctime = iattr->ia_mtime =
890                         current_fs_time(inode->i_sb);
891                 iattr->ia_valid |= ATTR_CTIME | ATTR_MTIME;
892         }
893
894         /*
895          * The first thing we do is set the size to new_size permanently on
896          * disk.  This way we don't have to worry about anyone ever being able
897          * to look at the data being freed even in the face of a crash.
898          * What we're getting around here is the case where we free a block, it
899          * is allocated to another file, it is written to, and then we crash.
900          * If the new data gets written to the file but the log buffers
901          * containing the free and reallocation don't, then we'd end up with
902          * garbage in the blocks being freed.  As long as we make the new size
903          * permanent before actually freeing any blocks it doesn't matter if
904          * they get written to.
905          */
906         ip->i_d.di_size = newsize;
907         xfs_trans_log_inode(tp, ip, XFS_ILOG_CORE);
908
909         if (newsize <= oldsize) {
910                 error = xfs_itruncate_extents(&tp, ip, XFS_DATA_FORK, newsize);
911                 if (error)
912                         goto out_trans_cancel;
913
914                 /*
915                  * Truncated "down", so we're removing references to old data
916                  * here - if we delay flushing for a long time, we expose
917                  * ourselves unduly to the notorious NULL files problem.  So,
918                  * we mark this inode and flush it when the file is closed,
919                  * and do not wait the usual (long) time for writeout.
920                  */
921                 xfs_iflags_set(ip, XFS_ITRUNCATED);
922
923                 /* A truncate down always removes post-EOF blocks. */
924                 xfs_inode_clear_eofblocks_tag(ip);
925         }
926
927         if (iattr->ia_valid & ATTR_MODE)
928                 xfs_setattr_mode(ip, iattr);
929         if (iattr->ia_valid & (ATTR_ATIME|ATTR_CTIME|ATTR_MTIME))
930                 xfs_setattr_time(ip, iattr);
931
932         xfs_trans_log_inode(tp, ip, XFS_ILOG_CORE);
933
934         XFS_STATS_INC(mp, xs_ig_attrchg);
935
936         if (mp->m_flags & XFS_MOUNT_WSYNC)
937                 xfs_trans_set_sync(tp);
938
939         error = xfs_trans_commit(tp);
940 out_unlock:
941         if (lock_flags)
942                 xfs_iunlock(ip, lock_flags);
943         return error;
944
945 out_trans_cancel:
946         xfs_trans_cancel(tp);
947         goto out_unlock;
948 }
949
950 STATIC int
951 xfs_vn_setattr(
952         struct dentry           *dentry,
953         struct iattr            *iattr)
954 {
955         struct xfs_inode        *ip = XFS_I(d_inode(dentry));
956         int                     error;
957
958         if (iattr->ia_valid & ATTR_SIZE) {
959                 uint            iolock = XFS_IOLOCK_EXCL;
960
961                 xfs_ilock(ip, iolock);
962                 error = xfs_break_layouts(d_inode(dentry), &iolock, true);
963                 if (!error) {
964                         xfs_ilock(ip, XFS_MMAPLOCK_EXCL);
965                         iolock |= XFS_MMAPLOCK_EXCL;
966
967                         error = xfs_setattr_size(ip, iattr);
968                 }
969                 xfs_iunlock(ip, iolock);
970         } else {
971                 error = xfs_setattr_nonsize(ip, iattr, 0);
972         }
973
974         return error;
975 }
976
977 STATIC int
978 xfs_vn_update_time(
979         struct inode            *inode,
980         struct timespec         *now,
981         int                     flags)
982 {
983         struct xfs_inode        *ip = XFS_I(inode);
984         struct xfs_mount        *mp = ip->i_mount;
985         struct xfs_trans        *tp;
986         int                     error;
987
988         trace_xfs_update_time(ip);
989
990         error = xfs_trans_alloc(mp, &M_RES(mp)->tr_fsyncts, 0, 0, 0, &tp);
991         if (error)
992                 return error;
993
994         xfs_ilock(ip, XFS_ILOCK_EXCL);
995         if (flags & S_CTIME)
996                 inode->i_ctime = *now;
997         if (flags & S_MTIME)
998                 inode->i_mtime = *now;
999         if (flags & S_ATIME)
1000                 inode->i_atime = *now;
1001
1002         xfs_trans_ijoin(tp, ip, XFS_ILOCK_EXCL);
1003         xfs_trans_log_inode(tp, ip, XFS_ILOG_TIMESTAMP);
1004         return xfs_trans_commit(tp);
1005 }
1006
1007 #define XFS_FIEMAP_FLAGS        (FIEMAP_FLAG_SYNC|FIEMAP_FLAG_XATTR)
1008
1009 /*
1010  * Call fiemap helper to fill in user data.
1011  * Returns positive errors to xfs_getbmap.
1012  */
1013 STATIC int
1014 xfs_fiemap_format(
1015         void                    **arg,
1016         struct getbmapx         *bmv,
1017         int                     *full)
1018 {
1019         int                     error;
1020         struct fiemap_extent_info *fieinfo = *arg;
1021         u32                     fiemap_flags = 0;
1022         u64                     logical, physical, length;
1023
1024         /* Do nothing for a hole */
1025         if (bmv->bmv_block == -1LL)
1026                 return 0;
1027
1028         logical = BBTOB(bmv->bmv_offset);
1029         physical = BBTOB(bmv->bmv_block);
1030         length = BBTOB(bmv->bmv_length);
1031
1032         if (bmv->bmv_oflags & BMV_OF_PREALLOC)
1033                 fiemap_flags |= FIEMAP_EXTENT_UNWRITTEN;
1034         else if (bmv->bmv_oflags & BMV_OF_DELALLOC) {
1035                 fiemap_flags |= (FIEMAP_EXTENT_DELALLOC |
1036                                  FIEMAP_EXTENT_UNKNOWN);
1037                 physical = 0;   /* no block yet */
1038         }
1039         if (bmv->bmv_oflags & BMV_OF_LAST)
1040                 fiemap_flags |= FIEMAP_EXTENT_LAST;
1041
1042         error = fiemap_fill_next_extent(fieinfo, logical, physical,
1043                                         length, fiemap_flags);
1044         if (error > 0) {
1045                 error = 0;
1046                 *full = 1;      /* user array now full */
1047         }
1048
1049         return error;
1050 }
1051
1052 STATIC int
1053 xfs_vn_fiemap(
1054         struct inode            *inode,
1055         struct fiemap_extent_info *fieinfo,
1056         u64                     start,
1057         u64                     length)
1058 {
1059         xfs_inode_t             *ip = XFS_I(inode);
1060         struct getbmapx         bm;
1061         int                     error;
1062
1063         error = fiemap_check_flags(fieinfo, XFS_FIEMAP_FLAGS);
1064         if (error)
1065                 return error;
1066
1067         /* Set up bmap header for xfs internal routine */
1068         bm.bmv_offset = BTOBBT(start);
1069         /* Special case for whole file */
1070         if (length == FIEMAP_MAX_OFFSET)
1071                 bm.bmv_length = -1LL;
1072         else
1073                 bm.bmv_length = BTOBB(start + length) - bm.bmv_offset;
1074
1075         /* We add one because in getbmap world count includes the header */
1076         bm.bmv_count = !fieinfo->fi_extents_max ? MAXEXTNUM :
1077                                         fieinfo->fi_extents_max + 1;
1078         bm.bmv_count = min_t(__s32, bm.bmv_count,
1079                              (PAGE_SIZE * 16 / sizeof(struct getbmapx)));
1080         bm.bmv_iflags = BMV_IF_PREALLOC | BMV_IF_NO_HOLES;
1081         if (fieinfo->fi_flags & FIEMAP_FLAG_XATTR)
1082                 bm.bmv_iflags |= BMV_IF_ATTRFORK;
1083         if (!(fieinfo->fi_flags & FIEMAP_FLAG_SYNC))
1084                 bm.bmv_iflags |= BMV_IF_DELALLOC;
1085
1086         error = xfs_getbmap(ip, &bm, xfs_fiemap_format, fieinfo);
1087         if (error)
1088                 return error;
1089
1090         return 0;
1091 }
1092
1093 STATIC int
1094 xfs_vn_tmpfile(
1095         struct inode    *dir,
1096         struct dentry   *dentry,
1097         umode_t         mode)
1098 {
1099         return xfs_generic_create(dir, dentry, mode, 0, true);
1100 }
1101
1102 static const struct inode_operations xfs_inode_operations = {
1103         .get_acl                = xfs_get_acl,
1104         .set_acl                = xfs_set_acl,
1105         .getattr                = xfs_vn_getattr,
1106         .setattr                = xfs_vn_setattr,
1107         .setxattr               = generic_setxattr,
1108         .getxattr               = generic_getxattr,
1109         .removexattr            = generic_removexattr,
1110         .listxattr              = xfs_vn_listxattr,
1111         .fiemap                 = xfs_vn_fiemap,
1112         .update_time            = xfs_vn_update_time,
1113 };
1114
1115 static const struct inode_operations xfs_dir_inode_operations = {
1116         .create                 = xfs_vn_create,
1117         .lookup                 = xfs_vn_lookup,
1118         .link                   = xfs_vn_link,
1119         .unlink                 = xfs_vn_unlink,
1120         .symlink                = xfs_vn_symlink,
1121         .mkdir                  = xfs_vn_mkdir,
1122         /*
1123          * Yes, XFS uses the same method for rmdir and unlink.
1124          *
1125          * There are some subtile differences deeper in the code,
1126          * but we use S_ISDIR to check for those.
1127          */
1128         .rmdir                  = xfs_vn_unlink,
1129         .mknod                  = xfs_vn_mknod,
1130         .rename2                = xfs_vn_rename,
1131         .get_acl                = xfs_get_acl,
1132         .set_acl                = xfs_set_acl,
1133         .getattr                = xfs_vn_getattr,
1134         .setattr                = xfs_vn_setattr,
1135         .setxattr               = generic_setxattr,
1136         .getxattr               = generic_getxattr,
1137         .removexattr            = generic_removexattr,
1138         .listxattr              = xfs_vn_listxattr,
1139         .update_time            = xfs_vn_update_time,
1140         .tmpfile                = xfs_vn_tmpfile,
1141 };
1142
1143 static const struct inode_operations xfs_dir_ci_inode_operations = {
1144         .create                 = xfs_vn_create,
1145         .lookup                 = xfs_vn_ci_lookup,
1146         .link                   = xfs_vn_link,
1147         .unlink                 = xfs_vn_unlink,
1148         .symlink                = xfs_vn_symlink,
1149         .mkdir                  = xfs_vn_mkdir,
1150         /*
1151          * Yes, XFS uses the same method for rmdir and unlink.
1152          *
1153          * There are some subtile differences deeper in the code,
1154          * but we use S_ISDIR to check for those.
1155          */
1156         .rmdir                  = xfs_vn_unlink,
1157         .mknod                  = xfs_vn_mknod,
1158         .rename2                = xfs_vn_rename,
1159         .get_acl                = xfs_get_acl,
1160         .set_acl                = xfs_set_acl,
1161         .getattr                = xfs_vn_getattr,
1162         .setattr                = xfs_vn_setattr,
1163         .setxattr               = generic_setxattr,
1164         .getxattr               = generic_getxattr,
1165         .removexattr            = generic_removexattr,
1166         .listxattr              = xfs_vn_listxattr,
1167         .update_time            = xfs_vn_update_time,
1168         .tmpfile                = xfs_vn_tmpfile,
1169 };
1170
1171 static const struct inode_operations xfs_symlink_inode_operations = {
1172         .readlink               = generic_readlink,
1173         .get_link               = xfs_vn_get_link,
1174         .getattr                = xfs_vn_getattr,
1175         .setattr                = xfs_vn_setattr,
1176         .setxattr               = generic_setxattr,
1177         .getxattr               = generic_getxattr,
1178         .removexattr            = generic_removexattr,
1179         .listxattr              = xfs_vn_listxattr,
1180         .update_time            = xfs_vn_update_time,
1181 };
1182
1183 static const struct inode_operations xfs_inline_symlink_inode_operations = {
1184         .readlink               = generic_readlink,
1185         .get_link               = xfs_vn_get_link_inline,
1186         .getattr                = xfs_vn_getattr,
1187         .setattr                = xfs_vn_setattr,
1188         .setxattr               = generic_setxattr,
1189         .getxattr               = generic_getxattr,
1190         .removexattr            = generic_removexattr,
1191         .listxattr              = xfs_vn_listxattr,
1192         .update_time            = xfs_vn_update_time,
1193 };
1194
1195 STATIC void
1196 xfs_diflags_to_iflags(
1197         struct inode            *inode,
1198         struct xfs_inode        *ip)
1199 {
1200         uint16_t                flags = ip->i_d.di_flags;
1201
1202         inode->i_flags &= ~(S_IMMUTABLE | S_APPEND | S_SYNC |
1203                             S_NOATIME | S_DAX);
1204
1205         if (flags & XFS_DIFLAG_IMMUTABLE)
1206                 inode->i_flags |= S_IMMUTABLE;
1207         if (flags & XFS_DIFLAG_APPEND)
1208                 inode->i_flags |= S_APPEND;
1209         if (flags & XFS_DIFLAG_SYNC)
1210                 inode->i_flags |= S_SYNC;
1211         if (flags & XFS_DIFLAG_NOATIME)
1212                 inode->i_flags |= S_NOATIME;
1213         if (S_ISREG(inode->i_mode) &&
1214             ip->i_mount->m_sb.sb_blocksize == PAGE_SIZE &&
1215             (ip->i_mount->m_flags & XFS_MOUNT_DAX ||
1216              ip->i_d.di_flags2 & XFS_DIFLAG2_DAX))
1217                 inode->i_flags |= S_DAX;
1218 }
1219
1220 /*
1221  * Initialize the Linux inode.
1222  *
1223  * When reading existing inodes from disk this is called directly from xfs_iget,
1224  * when creating a new inode it is called from xfs_ialloc after setting up the
1225  * inode. These callers have different criteria for clearing XFS_INEW, so leave
1226  * it up to the caller to deal with unlocking the inode appropriately.
1227  */
1228 void
1229 xfs_setup_inode(
1230         struct xfs_inode        *ip)
1231 {
1232         struct inode            *inode = &ip->i_vnode;
1233         gfp_t                   gfp_mask;
1234
1235         inode->i_ino = ip->i_ino;
1236         inode->i_state = I_NEW;
1237
1238         inode_sb_list_add(inode);
1239         /* make the inode look hashed for the writeback code */
1240         hlist_add_fake(&inode->i_hash);
1241
1242         inode->i_uid    = xfs_uid_to_kuid(ip->i_d.di_uid);
1243         inode->i_gid    = xfs_gid_to_kgid(ip->i_d.di_gid);
1244
1245         switch (inode->i_mode & S_IFMT) {
1246         case S_IFBLK:
1247         case S_IFCHR:
1248                 inode->i_rdev =
1249                         MKDEV(sysv_major(ip->i_df.if_u2.if_rdev) & 0x1ff,
1250                               sysv_minor(ip->i_df.if_u2.if_rdev));
1251                 break;
1252         default:
1253                 inode->i_rdev = 0;
1254                 break;
1255         }
1256
1257         i_size_write(inode, ip->i_d.di_size);
1258         xfs_diflags_to_iflags(inode, ip);
1259
1260         if (S_ISDIR(inode->i_mode)) {
1261                 lockdep_set_class(&ip->i_lock.mr_lock, &xfs_dir_ilock_class);
1262                 ip->d_ops = ip->i_mount->m_dir_inode_ops;
1263         } else {
1264                 ip->d_ops = ip->i_mount->m_nondir_inode_ops;
1265                 lockdep_set_class(&ip->i_lock.mr_lock, &xfs_nondir_ilock_class);
1266         }
1267
1268         /*
1269          * Ensure all page cache allocations are done from GFP_NOFS context to
1270          * prevent direct reclaim recursion back into the filesystem and blowing
1271          * stacks or deadlocking.
1272          */
1273         gfp_mask = mapping_gfp_mask(inode->i_mapping);
1274         mapping_set_gfp_mask(inode->i_mapping, (gfp_mask & ~(__GFP_FS)));
1275
1276         /*
1277          * If there is no attribute fork no ACL can exist on this inode,
1278          * and it can't have any file capabilities attached to it either.
1279          */
1280         if (!XFS_IFORK_Q(ip)) {
1281                 inode_has_no_xattr(inode);
1282                 cache_no_acl(inode);
1283         }
1284 }
1285
1286 void
1287 xfs_setup_iops(
1288         struct xfs_inode        *ip)
1289 {
1290         struct inode            *inode = &ip->i_vnode;
1291
1292         switch (inode->i_mode & S_IFMT) {
1293         case S_IFREG:
1294                 inode->i_op = &xfs_inode_operations;
1295                 inode->i_fop = &xfs_file_operations;
1296                 inode->i_mapping->a_ops = &xfs_address_space_operations;
1297                 break;
1298         case S_IFDIR:
1299                 if (xfs_sb_version_hasasciici(&XFS_M(inode->i_sb)->m_sb))
1300                         inode->i_op = &xfs_dir_ci_inode_operations;
1301                 else
1302                         inode->i_op = &xfs_dir_inode_operations;
1303                 inode->i_fop = &xfs_dir_file_operations;
1304                 break;
1305         case S_IFLNK:
1306                 if (ip->i_df.if_flags & XFS_IFINLINE)
1307                         inode->i_op = &xfs_inline_symlink_inode_operations;
1308                 else
1309                         inode->i_op = &xfs_symlink_inode_operations;
1310                 break;
1311         default:
1312                 inode->i_op = &xfs_inode_operations;
1313                 init_special_inode(inode, inode->i_mode, inode->i_rdev);
1314                 break;
1315         }
1316 }