Convert kernel compat functions to use new ll_rw_block() function signature

In newer kernels, ll_rw_block() separated the request operation and
the operational flags arguments.  This means adding a new parameter to
ll_rw_block() (which is ignored in our compat layer) and changing READ
and WRITE to REQ_OP_READ and REQ_OP_WRITE, respectively.

This makes it easier to keep us in sync with the kernel tree.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

Clean up minor differences between kernel and e2fsck's jbd2 source files

Historically e2fsprogs's e2fsck/recovery.c and e2fsck/revoke.c was
sync'ed against the ext3 version of jbd/recovery.c and jbd/revoke.c.
Remove minor differences so we can better sync up between the two
versions.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

Merge branch 'maint' into next

libext2fs: verify the block numbers for the allocation bitmaps are valid

This avoids a potential UBsan failure when we multiply an insanely
high block number with the block size and we get a multiplication
overflow.

Google-Bug-Id: 128130353
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

libext2fs: properly free the bitmaps in read_bitmap()'s error/cleanup path

Use ext2fs_free_{block,inode}_bitmaps() instead of ext2fs_free_mem()
to avoid some memory leaks if there is an error while calling
read_bitmaps().

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debugfs: teach the htree command to check and display the dx block checksum

To do this we need to export the ext2fs_dx_csum() function from
libext2fs.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

libext2fs: refactor common code into ext2fs_dx_csum()

ext2fs_dx_csum() is currently a static function, so this has no
visible changes except shrinking the text size of csum.o by
approximately 100 bytes.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

Merge branch 'maint' into next

Fix UBSan when shifting (1LL << 63)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

libext2fs: fix UBSan when updating an inline_data file

What memcpy does when the length is zero is not well-defined.  So
avoid it.

Bug: https://github.com/tytso/e2fsprogs/issues/25
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

libext2fs: fix bug when reading or writing more than 2GB in unix_io

If count * block_size exceeds 2GB, we will overflow a 32-bit signed
integer value.  This shouldn't happen in practice except for
fuzz-corrupted file systems, but let's fix the code so it's correct.

Bug: https://github.com/tytso/e2fsprogs/issues/24
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

AOSP: support the stable_inodes feature

Reserve the codepoint for EXT4_FEATURE_COMPAT_STABLE_INODES, allow it to
be set and cleared, and teach resize2fs to forbid shrinking the
filesystem if it is set.

This feature will allow the use of encryption policies where the inode
number is included in the IVs (initialization vectors) for encryption,
so data would be corrupted if the inodes were to be renumbered.

For more details, see the kernel patchset:
https://lkml.kernel.org/linux-fsdevel/20191021230355.23136-1-ebiggers@kernel.org/T/#u

Signed-off-by: Eric Biggers <ebiggers@google.com>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>
From AOSP commit: 9aa30c254dd57df54f00c5d520b7ac867ad7ca68

Merge branch 'maint' into next

AOSP: Link to production releases, not testing releases

The testing links are not stable and are not guaranteed to exist.

Test: After re-generating the generated files, the link works now.
Change-Id: I36e73ef74571b3246f470280a75ae1098245eff5
From AOSP commit: 5971f6a5113b12b33d9454229bf27621853e1da7

AOSP: Add new source files to Android.bp files

Test: see I3781b6d1e55923e9410644e8a7ba834b4d13b733
Change-Id: Ie071b30937dcf73f34df5dc3aa08d23ae30d9c63
From AOSP commit: d2a16e1616b807a6143b9c6232a1c54f90dc06f6

Teach ext2fs_open2() to honor the EXT2_FLAG_SUPER_ONLY flag

Opening the file system with EXT2_FLAG_SUPER_ONLY will leave
fs->group_desc to be NULL and modify "dumpe2fs -h" and tune2fs when it
is emulating e2label to use this flag.  This speeds up "dumpe2fs -h"
and "e2label" when operating on very large file systems.

To allow other libext2fs functions to work without too many surprises,
ext2fs_group_desc() will read in the block group descriptors on
demand.  This allows "dumpe2fs -h" to be able to read the journal
inode, for example.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>
Cray-bug-id: LUS-5777

Update debian changelog and version.h for 1.46~WIP.2019.10.09-1

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

e2fsck: check for consistent encryption policies

By design, the kernel enforces that all files in an encrypted directory
use the same encryption policy as the directory.  It's not possible to
violate this constraint using syscalls.  Lookups of files that violate
this constraint also fail, in case the disk was manipulated.

But this constraint can also be violated by accidental filesystem
corruption.  E.g., a power cut when using ext4 without a journal might
leave new files without the encryption bit and/or xattr.  Thus, it's
important that e2fsck correct this condition.

Therefore, this patch makes the following changes to e2fsck:

- During pass 1 (inode table scan), create a map from inode number to
  encryption policy for all encrypted inodes.  But it's optimized so
  that the full xattrs aren't saved but rather only 32-bit "policy IDs",
  since usually many inodes share the same encryption policy.  Also, if
  an encryption xattr is missing, offer to clear the encrypt flag.  If
  an encryption xattr is clearly corrupt, offer to clear the inode.

- During pass 2 (directory structure check), use the map to verify that
  all regular files, directories, and symlinks in encrypted directories
  use the directory's encryption policy.  Offer to clear any directory
  entries for which this isn't the case.

Add a new test "f_bad_encryption" to test the new behavior.

Due to the new checks, it was also necessary to update the existing test
"f_short_encrypted_dirent" to add an encryption xattr to the test file,
since it was missing one before, which is now considered invalid.

Google-Bug-Id: 135138675
Signed-off-by: Eric Biggers <ebiggers@google.com>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>
Reviewed-by: Andreas Dilger <adilger@dilger.ca>

debian: update changelog for 1.46~WIP.2019.10.03-1

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

Mark version as 1.46-WIP

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

Enable support for the fast_commit compat feature

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

Merge branch 'maint' into next

Define the codepoint for the fast_commit compat feature

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

Merge tag 'v1.45.4' into next

v1.45.4

Update release notes, etc., for the 1.45.4 release

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

tune2fs.8: tweak the documentation for the encrypt feature

Try to make it clearer that enabling 'encrypt' just enables *support*
for encryption; it doesn't actually encrypt anything by itself.

Signed-off-by: Eric Biggers <ebiggers@google.com>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

tune2fs.8: document the verity feature

Signed-off-by: Eric Biggers <ebiggers@google.com>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

ext4.5: tweak the documentation for the encrypt feature

Try to make it clearer that enabling 'encrypt' just enables *support*
for encryption; it doesn't actually encrypt anything by itself.

Signed-off-by: Eric Biggers <ebiggers@google.com>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

ext4.5: document the verity feature

Signed-off-by: Eric Biggers <ebiggers@google.com>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

ext4.5: document first kernel version to support casefold feature

Signed-off-by: Eric Biggers <ebiggers@google.com>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

ext4.5: move casefold feature to correct position

The features are listed in alphabetic order, so put the casefold feature
in the right place.

Signed-off-by: Eric Biggers <ebiggers@google.com>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

e2scrub_all: make sure fd 3 is closed before running lvm commands

Some versions of cron leave fd 3 open for some unknown reason.  So
when e2scrub_all is run by cron (on non-systemd systems) this results
in an annoying message from the Cron Daemon because lvm will print
warning messages about "leaked file descriptors.  So force close fd 3
at the beginning of e2scrub and e2scrub_all.

Addresses-Debian-Bug: #940240
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update vi.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update nl.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update ms.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update es.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update de.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

libsupport: add checks to prevent buffer overrun bugs in quota code

A maliciously corrupted file systems can trigger buffer overruns in
the quota code used by e2fsck.  To fix this, add sanity checks to the
quota header fields as well as to block number references in the quota
tree.

Addresses: CVE-2019-5094
Addresses: TALOS-2019-0887
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

Merge branch 'maint' into next

e2fsck: check the validity of the casefold flag

The casefold flag is only allowed on directories and when the casefold
feature is enabled.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

e2fsck: make the low dtime check consistent when using the backup superblock

The backup superblock may have a last mounted time of zero, if it has
never been updated since the file system was created.  In that case,
the low dtime check may get disabled when using the backup superblock,
even though subsequent e2fsck runs will end up using the low dtime
check.  This can cause a failure of ext4/007, since since when e2fsck
is run a second time after the file system is mounted, the low dtime
check will trigger the e2fsck complaint:

Inode NNNN was part of the orphaned inode list.  IGNORED.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

e2fsck: update the quota records when the root directory is recreated

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

libsupport: remove unnecessary code to set the quota inode size

This is done correctly by the fileio routines; and it forces the quota
inode's file size to be unnecessarily rounded up to the block size.

Also remove the unnecessary double colon in the quota's error messages.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

tests: add tests for uninitialized bitmaps

Various tests for handing uninitialized block and inode bitmaps,
and inodes beyond the in-use high watermark.

Signed-off-by: Andreas Dilger <andreas.dilger@intel.com>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

tests: verify > 65000 subdirectories

Add test case to verify nlink handling of large directories.

Signed-off-by: Andreas Dilger <andreas.dilger@intel.com>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

Merge branch 'maint' into next

fuse2fs: add a norecovery option which suppresses journal replay

Teach fuse2fs the "-o norecovery" option, which will suppress any
journal replay that might be necessary, and mounts the file system
read-only.

Addresses-Debian-Bug: #878927

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

e2scrub_all: allow scrubbing in vg's whose free space == snapshot size

If the volume group's free space is exactly the same as snapshot size,
e2scrub_all will skip those logical volumes in those volume groups.
Fix this by changing the test from '>' to '>='.

Fixes: c120312253 ("e2scrub_all: make sure there's enough free space...")
Addresses-Debian-Bug: #935009
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

libuuid: signedness/type fixes

Signed-off-by: Matthias Andree <matthias.andree@gmx.de>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

contrib: add ext4-ioc.c

Add a debugging program which allows calling ext4-specific ioctls on
files.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

e2fsck: add a developer-only extended option: clear_all_uninit_bits

This option clears the uninitialized bit on all extents of all inodes.
Note that this can end up exposing uninitialized data to userspace.
It should only used in very specialized situations.

This option is only enabled via a new configure flag,
--enable-developer-features.  It should *not* be enabled by
distributions, as it enables features thare only designed for use by
ext4 developers.  These features have no documentation in the man
page, or regression tests, and if it breaks, you get to keep both
pieces.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: add changelog for 1.45.3-4 release

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: don't gitignore debian/patches

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

libblkid: fix gcc -Wall warnings

Google-Bug-Id: 118836063

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: stop using LTO (link-time optimization)

LTO breaks reproducible builds, and there is some question as to how
reliable LTO's code generator is --- there are some scary stories that
it doesn't work well, and the GCC maintainers aren't super-interested
in fixing the bugs:

https://lists.debian.org/debian-devel/2019/07/msg00610.html

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: skip running "make check" if DEB_BUILD_OPTIONS contains nocheck

This was done automatically by debhelper, but it got dropped when
override_dh_auto_test was added by commit 7f4c3bb120 ("debian: run
"make check" with V=1 to keep blhc happy").

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: mark more files in e2fsprogs.install as only being present on Linux

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: update changelog for 1.45.3-3 release

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

e2fsck: set E2FSCK_TIME correctly on a 32-bit arch with a 64-bit time_t

Addresses-Debian-Bug: #932906

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: mark logsave as Multi-Arch: foreign

Also fix logsave so it is Architecure: any.  It was previously
"linux-any kfreebsd-any" due to a cut-and-paste error.

Addresses-Debian-Bug: #932876

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: fix Breaks/Replace dependency for logsave

Addresses-Debian-Bug: #932874

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: only install the udev and systemd files to e2fsprogs on Linux systems

Otherwise it will fail to build on hurd and kfreebsd.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: run "make check" with V=1 to keep blhc happy

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: update changelog for 1.45.3-2 release

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: add a hard dependency on logsave to e2fsprogs

The initramfs created by the initramfs-tools package needs logsave and
assumes it comes along with e2fsprogs.  If it is not present, the
result systems which will fail to boot.  Fix this by adding the
dependency.

In the future initramfs-tools will explicitly ask for logsave (tracked
in Debian Bug: #932854), but we'll need to keep this dependency until
the next stable release of Debian.

Addresses-Debian-Bug: #932855
Addresses-Debian-Bug: #932859
Addresses-Debian-Bug: #932861
Addresses-Debian-Bug: #932881
Addresses-Debian-Bug: #932888

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update fr.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: update to standards version 4.4.0

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

e2scrub_all_cron: check to make sure e2scrub_all exists

Since e2scrub_all.cron is marked as a config file, it can hang around
after the package is removed, in which case e2scrub_all might not be
present.  So check to make sure e2scrub_all exists before trying to
execute it.

Addresses-Debian-Bug: #932622

Signed-off-by: Theodore Ts'o <tytso@mit.edu>
Reported-by: Laurent Bigonville <bigon@debian.org>

po: update pt.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update uk.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update sv.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update pl.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update de.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update cs.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

Final updates to release notes, etc., for the v1.45.3 release

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: add help text to e2fsprogs.pot explaining ix-nay on positional indicators

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update nl.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: update cs.po (from translationproject.org)

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

fuse2fs: stop using the nonempty option by default

The nonempty option isn't supported by fuse3, and so if fusermount is
from fuse3, having fuse2fs specify nonempty automatically will prevent
fuse2fs from working correctly.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

fuse2fs: install fuse2fs in /usr/bin instead of /usr/sbin

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: add lintian override to suppress a false positive

Suppress the false positive:

   e2fsprogs: package-supports-alternative-init-but-no-init.d-script

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debugfs: clean up gcc -Wall warning from using snprintf

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

tests: suppress e2image version number from being printed

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

tests: fix test_script so that it will run all tests if w/o arguments

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: drop "new-essential-package" lintian override

This is no longer necessary, since e2fsprogs is no longer considered
an "essential" package.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: move logsave to its own package

Addresses-Debian-Bug: #923372
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

Update release notes, etc., for the 1.45.3 release

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: convert from using dh_movefiles to dh_install

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

e2fsck: add xgettext:no-c-format tags

The xgettext program is incorrectly marking e2fsck problem
descriptions as being c-style printf strings.  Override its mistakes.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

po: remove unnecessary/buggy positional parameter specifiers

The strings in e2fsck/problem.c use a special %-expansion scheme,
where %b gets expanded to a block number, %i gets expanded to an inode
number, etc., where these values are in a problem context data
structure.  As such, there is no need to use a printf style positional
indicator (e.g., %2$s).  Indeed, the use of things like %1$i or %2$b
will cause the %-expansion code to just print %1$i or %2$b, instead of
the inode or block number, respectively.

Addresses-Debian-Bug: #892173

Signed-off-by: Theodore Ts'o <tytso@mit.edu>
Cc: Philipp Thomas <pth@suse.de>
Cc: Benno Schulenberg <vertaling@coevern.nl>
Cc: Trần Ngọc Quân <vnwildman@gmail.com>
Cc: Petr Pisar <petr.pisar@atlas.cz>

e2scrub_all: only run in service mode when periodic_e2scrub=1

By default, e2scrub_all will not actually trigger online scrubs unless
periodic_e2scrub=1 is set in /etc/e2scrub.conf.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: drop special case CFLAGS for Alpha and PowerMac architectures

Defining HAVE_NETINET_IN_H for Alpha and __NO_STRING_INLINES for the
PowerMac QUICK bootloader date back to over two decades, to 1997 and
1998, respectively.  These two architectures are no longer supported
by Debian, and it's not clear they are actually needed in 2019 even
for someone building for these architectures.  So let's drop them and
see if anyone complains (or notices).

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

e2scrub_all: fix "e2scurb_all -r"

The e2scrub_all program was broken by commit c7d6525ecaab
("e2scrub_all: refactor device probe loop") so that it would use the
path of the snapshot volume instead of the base volume.  This caused
"e2scrub_all -r" to pass the wrong pathname to e2scrub, with the
result that e2scrub would abort with an error instead of removing the
snapshot volume.

Fixes: c7d6525ecaab ("e2scrub_all: refactor device probe loop")
Addresses-Debian-Bug: #931679
Signed-off-by: Theodore Ts'o <tytso@mit.edu>

util: add a script gen-git-tarball to generate a release tarball from git

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: convert debian/rules to use dh

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: drop support for not building the e2fsck-static and udebs packages

The ability to not build udebs packages and e2fsck-static made sense
when we were doing a separate e2fsprogs builds for those packages.
Since we're not doing that any more, we can simplify things by
dropping that flexibility.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: drop support for Debian Jessie

This allows us to drop the complexity needed to support debhelper v9
and the legacy -dbg packages.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: stop building a special version of e2fsprogs for e2fsprogs-udeb

Previously, we configured and built a separate version of e2fsprogs
for the e2fsprogs-udeb package.  This was important back when we still
cared about build floppies, but going to extra lengths to save 145k of
disk space isn't worth it any more.

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

debian: only require the udev, systemd, cron packages when build on Linux

Addresses-Debian-Bug: #931266

Signed-off-by: Theodore Ts'o <tytso@mit.edu>

e2scrub_all: correctly handle the case where LUKS is stacked on an LV

We handle the case where an LVM's PV is stacked on top of a dm-crypt
device, but not the case where it's the other way around, where a LVM
LV contains a LUKS encrypted file system.  Fix this oversight.

Addresses-Debian-Bug: #931387

Reported-by: Marc Haber <mh+debian-bugs@zugschlus.de>
Signed-off-by: Theodore Ts'o <tytso@mit.edu>